[ { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.3681 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19489 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15439 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39157 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35987 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1867 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37918 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30618 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36126 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33509 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33233 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17501 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14117 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3792 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.33239 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18165 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31717 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16196 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40043 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3473 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44537 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28773 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32152 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32306 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.34096 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17779 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32591 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17131 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32726 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15889 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41888 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36479 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45767 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29935 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31747 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32825 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.37935 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19269 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15264 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41152 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34154 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18083 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35596 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17017 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44347 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3944 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48321 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32842 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33812 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34689 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.45462 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23367 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1895 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47272 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41877 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25429 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4045 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2197 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48035 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43704 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51873 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39213 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39167 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39465 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.47348 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24737 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20309 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48757 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43888 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27896 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41808 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23636 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4896 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44819 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52702 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40809 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40659 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40831 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.50086 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28413 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2399 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51317 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.47593 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33881 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4453 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27919 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50748 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4704 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54636 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43927 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4377 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43794 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.15553 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09239 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04846 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18549 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.10858 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04435 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1456 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05686 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24363 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.19512 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26747 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.15214 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19071 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.2294 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12691 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.08034 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27182 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18775 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07889 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23144 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08853 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33816 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.27191 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.37419 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19964 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21819 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25032 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.25931 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1395 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30639 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.22154 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09418 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25804 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10324 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36605 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29592 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39687 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22583 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23978 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.26855 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.29157 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.10805 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34159 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.25656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11118 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27997 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.11851 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38871 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3159 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41571 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24913 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26234 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28491 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.32101 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16735 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12116 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36876 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29026 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13587 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2972 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13522 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40285 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33024 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.4287 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27285 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28284 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30129 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.32423 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16931 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12319 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37129 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29407 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14018 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29919 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13775 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40415 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33171 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42982 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27556 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28521 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30346 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.32614 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17109 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12514 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37296 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29697 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14456 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3008 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14023 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40503 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33291 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43082 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27747 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28709 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30521 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.15553 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09239 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04846 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18549 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.10858 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04435 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1456 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05686 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24363 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.19512 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26747 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.15214 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19071 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27006 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14608 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09918 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30799 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.2177 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10015 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27624 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10448 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39142 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32951 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43376 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2441 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25317 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28786 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33883 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17516 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13058 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37179 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.27944 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13493 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33843 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13773 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39411 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48615 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30804 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2986 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33196 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.44142 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22005 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17369 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45823 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36675 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19113 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41482 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18292 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52074 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46932 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55437 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38813 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37241 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39105 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.66884 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3426 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27614 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63028 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56594 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37874 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56272 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31794 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64107 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60761 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66964 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57872 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52175 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53338 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.7482 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40137 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32756 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63782 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46406 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62252 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38005 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68653 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65687 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70812 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64485 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57981 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58899 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.89953 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.61857 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.83277 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81477 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.74527 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78208 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60049 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.80986 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78582 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82314 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.8305 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74868 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75057 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.3681 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19489 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15439 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39157 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35987 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1867 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37918 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30618 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36126 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33509 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.24798 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11975 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11727 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27261 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.28227 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.16453 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23745 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13463 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23975 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.22652 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.27485 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2349 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.20445 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.19801 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09217 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09782 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2228 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.23652 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13853 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.18184 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.11269 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.18095 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.17034 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.19537 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17169 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.17873 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.15466 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.13896 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06441 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.07042 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.1562 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16878 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10309 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.11746 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08188 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.11394 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.10828 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.11882 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.11681 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.12139 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.10076 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.04511 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02437 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.04771 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.05711 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04363 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03427 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03053 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03015 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03014 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03075 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03798 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.03846 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03168 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.02545 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0136 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.01467 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02636 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.03259 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.02695 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01905 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.01833 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01616 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01663 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01647 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02147 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02184 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.01809 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.00307 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0021 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00234 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00315 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00419 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00423 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00283 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00186 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00208 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00199 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00269 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00284 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00244 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.36729 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19489 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15439 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39157 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35987 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18726 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37918 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36391 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30618 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36126 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33509 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.43915 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22617 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19417 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45498 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42868 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27348 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4089 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22964 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4428 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44272 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51718 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38186 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42236 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39572 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.45487 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23356 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20448 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44492 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28978 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42293 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24202 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45327 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45809 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5278 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39697 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43401 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40721 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.46599 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24055 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21227 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47732 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45507 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30214 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43181 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25195 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4582 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46628 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53486 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40704 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4448 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41691 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.47274 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24671 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21829 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31205 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43758 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26046 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46295 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47255 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53904 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41338 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45123 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42361 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.47339 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21912 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48368 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46268 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31293 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43817 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26136 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46344 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47321 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53944 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41388 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45189 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42419 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.47377 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24817 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48403 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46305 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31353 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43858 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26205 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46386 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47355 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5398 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41433 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45232 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42465 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45266 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42183 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3306 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38108 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32493 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.249 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34292 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41193 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.40072 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56078 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44724 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45998 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46323 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31539 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.39253 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31039 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.33117 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33251 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.37741 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32833 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33749 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40054 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.40766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56271 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4781 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3255 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42152 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34248 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3691 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35032 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41405 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37604 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44496 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47791 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51834 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36198 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.46612 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38478 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40311 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38995 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44097 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45147 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46504 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52635 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68106 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58149 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57521 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43395 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5344 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.44686 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45707 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46056 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48447 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47368 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48638 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54193 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56152 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60651 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59573 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45645 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55096 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46379 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4728 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47868 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4992 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52297 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57117 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61801 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61773 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49299 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56221 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47805 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48624 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50424 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50426 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.09851 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.10111 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.13906 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.13809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.22223 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.19896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.23982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.26131 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.1423 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.21034 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.18024 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20846 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15538 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.249 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19594 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25187 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.38507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.36866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38606 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22249 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31598 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.26171 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29492 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.25519 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.34672 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23714 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.29602 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.30748 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.44733 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36367 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.40012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4114 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24915 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35036 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.28919 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31814 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28347 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3672 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27958 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28475 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.34759 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.35071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43685 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27745 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.37799 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31131 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.33456 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30999 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3781 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38913 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53954 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45693 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30392 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40283 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32999 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3475 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33626 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38742 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31829 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32865 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39213 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.3894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46014 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30731 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40529 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33214 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3492 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3389 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38864 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32064 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33124 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3942 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.39144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46172 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3097 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40619 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33314 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35009 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34039 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38891 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.09851 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.10111 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.13906 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.13809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.22223 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.19896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.23982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.26131 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.1423 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.21034 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.18024 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20846 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15538 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.249 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.2488 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22743 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.27951 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.30507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42093 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44861 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26893 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38255 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31982 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38427 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3127 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46586 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.30074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.52939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51076 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3301 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.47252 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40218 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37963 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55422 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42991 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42827 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47181 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.50174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65175 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.539 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60812 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60213 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42066 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58077 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51067 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56133 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47761 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63855 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66982 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73021 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.87181 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74997 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.85305 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77625 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64331 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.80927 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.73709 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.77992 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70694 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83534 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76009 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.8082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.89153 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.95099 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.95653 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.94457 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98517 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.90714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.98498 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.98553 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.99001 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.96156 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.95802 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.91365 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.95612 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96386 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45266 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42183 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3306 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38108 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32493 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.249 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.29383 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3043 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.34513 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.33135 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32026 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.29928 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.23862 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.26667 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.19018 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16815 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.23996 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15529 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25526 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.37446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.24821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24338 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.23866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.21774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.19016 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.20541 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.14969 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.11084 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.16994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18739 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.20385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.19292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1622 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.16366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.15266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.13871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.13005 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.13351 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.09847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.07745 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.12465 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.06386 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.05393 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06078 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.05882 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.06989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.04833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04319 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.03989 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04175 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.03903 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.02951 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02255 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.03849 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01671 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03043 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0241 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01644 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01267 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00928 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00367 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00414 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00411 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00273 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00271 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00267 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00303 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00229 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00181 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0014 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0025 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00096 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45266 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42183 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3306 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38108 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32493 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.249 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42389 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.50836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67391 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54794 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42168 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.47027 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35583 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34372 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4057 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.34672 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43242 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4536 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52517 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69063 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5634 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43547 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.48892 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37592 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.36508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3672 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44495 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53142 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5742 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44432 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50133 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39115 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37725 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43384 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3781 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4528 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53901 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58039 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45127 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50814 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.387 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44148 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38742 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4732 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53953 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45216 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50873 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40088 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38798 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44225 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38864 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T02:21:49Z", "is_anonymous": false, "revision": "e5035a8f4d85dd7b965b4f5f720eef04" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53998 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56143 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59311 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58119 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45261 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50887 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40117 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38839 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44268 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38891 } ] } ]