diff --git "a/AIR-Bench_24.04/BM25/NoReranker/results.json" "b/AIR-Bench_24.04/BM25/NoReranker/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/BM25/NoReranker/results.json" +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36331 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17501 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14117 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31717 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16196 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40043 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3473 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32152 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32306 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.34096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17779 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32591 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32726 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15889 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41888 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36479 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29935 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31747 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32825 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37935 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35596 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44347 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33812 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34689 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1895 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47272 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41877 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4045 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2197 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48035 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39213 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39167 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39465 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24737 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20309 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48757 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43888 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41808 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23636 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4896 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44819 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40809 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40659 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40831 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28413 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2399 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51317 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4453 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27919 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50748 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43927 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4377 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43794 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09239 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04846 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.10858 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05686 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24363 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19512 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13337 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19071 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08034 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27182 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18775 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23144 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08853 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33816 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.27191 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21819 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25032 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1395 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30639 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.22154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25804 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10324 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36605 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22583 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23978 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26855 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15283 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10805 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34159 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25656 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27997 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38871 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3159 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24913 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26234 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28491 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12116 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29026 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2972 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13522 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40285 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33024 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27285 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30129 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12319 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37129 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29407 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29919 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13775 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40415 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33171 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27556 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28521 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30346 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17109 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12514 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37296 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29697 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3008 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14023 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40503 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33291 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27747 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28709 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30521 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09239 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04846 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.10858 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05686 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24363 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19512 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13337 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19071 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14608 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09918 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30799 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2177 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27624 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2441 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28786 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17516 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13058 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37179 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27944 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33843 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13773 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39411 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30804 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2986 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33196 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22005 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17369 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45823 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36675 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41482 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52074 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46932 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38813 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37241 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39105 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3426 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27614 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56594 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56272 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64107 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60761 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57872 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52175 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53338 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40137 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32756 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68977 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63782 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62252 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38005 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68653 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65687 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64485 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58899 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.89953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.61857 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81477 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78208 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60049 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.80986 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78582 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.82314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.8305 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74868 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75057 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36331 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11975 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28227 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23745 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23975 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21202 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20445 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09782 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23652 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18184 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.18095 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.19537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17169 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15466 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06441 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.07042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1562 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16878 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.11746 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08188 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11394 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.10828 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.11882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.11681 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.10076 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02293 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02437 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04771 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.05711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.03427 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03053 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03015 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03014 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03168 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.02545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0136 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.01467 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02636 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.03259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.02695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.01905 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.01833 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01616 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.01663 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02147 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01809 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0021 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00234 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00419 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0024 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00283 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00186 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00208 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00269 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.36729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18726 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36391 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22617 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19417 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45498 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42868 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4089 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22964 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4428 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44272 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38186 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39572 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23356 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20448 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44492 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42293 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24202 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45327 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39697 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43401 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40721 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24055 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21227 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47732 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45507 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43181 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25195 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4582 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46628 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40704 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4448 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41691 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24671 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21829 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48314 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43758 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26046 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46295 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47255 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41338 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45123 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42361 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24747 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21912 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48368 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46268 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43817 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26136 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46344 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47321 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41388 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45189 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42419 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24817 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48403 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46305 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43858 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26205 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46386 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41433 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45232 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42465 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34292 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33251 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37741 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3255 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41405 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51834 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36198 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44097 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46504 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57521 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48447 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4992 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61773 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49299 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50426 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.09851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.13809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.21034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.38507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.36866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38606 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.34672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.29602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24915 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3781 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32512 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30392 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38742 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46014 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30731 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38864 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38891 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.09851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.13809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.21034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27951 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44861 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55422 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.85305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64331 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.80927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.73709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83534 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.8082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7413 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.89153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.82423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.86573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.95099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.95653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.94457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.98517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.90714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.98498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.98553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.99001 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.96156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.95612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96386 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.34513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23862 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15529 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.37446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.11084 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.1622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.15266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.13871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.13005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.13351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.09847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.07745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.12465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06386 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.05393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.06078 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.05882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.06989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.04833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.03989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.04175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.03903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.02951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.03849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01671 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00928 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00303 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51282 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54794 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42168 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.34672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3781 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38742 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56105 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38864 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58119 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38891 - } - ] - } -] \ No newline at end of file