eval_results
/
AIR-Bench_24.04
/BM25
/bce-reranker-base_v1
/results_20240530025153-8f131c800dc437fc0df33d3d358edf5e.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35869 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4013 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58426 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60579 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58805 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51552 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43269 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53628 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69982 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63463 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51531 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.612 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54423 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32131 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34187 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55884 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55835 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50653 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46325 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36136 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54276 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59471 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5883 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46613 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53785 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49717 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31943 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32007 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56318 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53975 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4606 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47048 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33656 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55625 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59588 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59858 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47546 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52225 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49408 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33141 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31624 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58163 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44331 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49756 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33803 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5765 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61221 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61744 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50573 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52765 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50722 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34489 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32471 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60495 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5753 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46278 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52038 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35499 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58807 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62256 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63081 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53477 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5444 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52266 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34716 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32552 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60663 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57628 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46373 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52275 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35734 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58929 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62335 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63226 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53642 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54567 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5241 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34716 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32552 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60663 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57628 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46373 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52275 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35734 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58929 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62335 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63226 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53642 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54567 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5241 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15248 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12734 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24721 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16564 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12114 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21711 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11618 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32696 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3694 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37002 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21298 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.24153 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26237 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22621 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.20485 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38854 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30692 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23895 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33925 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.1963 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45973 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48443 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49368 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32782 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36369 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36302 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2537 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23329 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44893 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37726 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38156 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.22896 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4981 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51677 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52793 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37644 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40928 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40106 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27895 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.25686 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50322 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44324 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34001 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41228 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.25862 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52581 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53744 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5488 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4151 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44472 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42951 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28647 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.2624 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51859 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4654 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35234 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42244 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26816 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5315 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54306 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55537 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43021 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4545 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43776 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28675 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26251 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51893 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46562 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35254 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42286 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26849 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53163 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54317 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5556 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43051 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45466 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43796 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28675 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26251 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51893 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46562 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35254 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42286 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26849 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53163 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54317 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5556 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43051 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45466 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43796 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15248 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12734 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24721 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16564 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12114 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21711 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11618 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32696 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3694 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37002 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21298 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.24153 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26237 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25253 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.22279 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43302 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34043 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26226 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38727 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.22117 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50892 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51591 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54004 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37624 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3977 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40377 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29719 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26376 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52668 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44038 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33993 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46356 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27225 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57835 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57443 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60436 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46593 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46631 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47065 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35026 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.30258 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6208 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55266 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41388 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54211 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32633 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64176 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62371 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66011 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55558 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52887 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.539 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38967 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32394 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68278 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46063 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61179 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36925 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67947 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65304 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7012 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63782 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5736 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58166 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40137 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32756 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68977 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63782 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46406 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38005 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68653 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65687 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70812 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64485 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57981 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58899 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40137 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32756 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68977 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63782 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46406 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38005 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68653 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65687 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70812 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64485 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57981 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58899 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35869 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4013 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58426 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60579 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58805 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51552 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43269 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53628 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69982 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63463 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51531 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.612 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54423 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23635 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28285 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4273 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48974 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46585 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34993 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31191 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33985 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38118 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36576 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35663 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41553 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34388 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18368 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.21626 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34684 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41177 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37791 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26725 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.24521 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25073 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27123 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26126 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28377 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31884 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26303 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11766 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.13324 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22931 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27746 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23911 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16409 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.15634 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15009 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.15479 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.14986 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1803 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.19638 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1611 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02674 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02912 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05217 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.06486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05353 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03749 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03601 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03214 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03307 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03258 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04245 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04339 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03585 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0136 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.01467 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02636 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03259 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02695 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01905 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.01833 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01616 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.01663 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01647 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02147 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02184 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01809 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00136 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00147 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00264 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00326 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00269 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00191 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00183 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00162 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00166 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00165 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00215 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00218 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00181 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35869 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4013 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58364 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60595 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58805 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51552 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43269 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53565 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69982 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63463 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51531 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.612 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54423 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39959 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44097 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6519 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64559 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58729 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49224 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58717 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73953 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69272 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59195 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66795 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60623 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4054 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44457 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66085 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6832 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65226 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5949 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50053 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5938 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74438 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69834 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60287 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67312 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61393 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40817 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44613 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66412 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68654 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65466 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59969 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50283 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59674 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74616 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7014 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60628 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67482 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61783 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40922 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44681 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66519 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68782 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65565 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60131 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50427 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59796 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74674 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70205 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60781 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67624 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.619 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40938 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44687 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66523 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65568 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60138 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50438 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59806 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74677 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70209 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60784 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6763 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61906 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40938 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44687 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66523 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65568 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60138 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50438 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59806 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74677 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70209 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60784 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6763 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61906 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63295 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67267 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.70118 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70796 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82337 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65774 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63662 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69086 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60929 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.54595 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4273 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47619 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.40964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.59462 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.61104 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63287 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.64573 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74107 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60065 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60223 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.63217 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54977 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.54769 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.4848 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49745 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.46524 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54862 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.59586 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.60037 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63046 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.65011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74113 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.62663 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63231 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62618 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64716 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56211 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58539 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52876 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53558 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.50071 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.56987 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.6357 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.63856 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66824 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.68804 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.79032 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.69174 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68508 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69478 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60707 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.64897 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57248 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57599 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.55162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59379 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.6618 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66736 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69587 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.7159 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.69088 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.72598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71478 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72415 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62958 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67825 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5985 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.6054 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62673 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66243 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66803 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.6967 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.71642 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8225 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.692 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.72674 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71583 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72591 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.63049 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.68053 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60077 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60691 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59087 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62805 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66243 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66803 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.6967 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.71642 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8225 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.692 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.72674 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71583 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72591 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.63049 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.68053 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60077 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60691 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59087 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62805 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.20751 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.19232 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20969 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.228 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.29824 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.29708 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.31018 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35822 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.24588 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.30976 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.27084 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.33284 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.22573 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.40964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.38491 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.37407 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.39058 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.43628 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5051 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.46228 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.46481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.47672 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.51191 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.40047 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.45012 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.40693 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.44774 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.3599 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51473 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.46385 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.45884 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.4813 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.52295 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.60299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.53055 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.52826 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.52959 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.56115 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.46065 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.49891 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.47411 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.41114 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52637 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.5335 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.54222 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57057 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.59112 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69208 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.58262 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.57747 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.60268 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.51191 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.54766 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.48152 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49481 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45515 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53581 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55004 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56035 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.59006 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60892 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71183 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.59929 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.59217 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61604 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.52271 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56133 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.49141 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50406 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47236 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54331 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55018 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56047 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.59029 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60897 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71224 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59585 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.59945 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.59239 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61633 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.52284 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.49172 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50421 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47272 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54343 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55018 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56047 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.59029 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60897 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71224 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59585 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.59945 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.59239 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61633 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.52284 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.49172 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50421 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47272 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54343 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.20751 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.19232 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20969 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.228 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.29824 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.29708 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.31018 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35822 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.24588 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.30976 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.27084 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.33284 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.22573 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.40964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.43639 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.41401 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.42309 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.48106 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5388 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.51107 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.54795 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53867 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.56016 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.44358 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.52483 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.50901 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55341 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.42176 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64659 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.56093 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.53122 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.55871 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.61367 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.68067 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61875 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6732 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.64815 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65564 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55031 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63671 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.619 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63501 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53499 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6988 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68948 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67961 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71716 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.7373 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83672 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72652 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.81185 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78579 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76363 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66897 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.78539 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.72208 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.74431 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.66469 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.7751 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75931 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75721 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.78738 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81001 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.91955 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.80396 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.91963 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.87478 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.85589 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73711 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.87914 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.81299 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.85682 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.77702 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.91968 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76189 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76009 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79027 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81296 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.92495 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.8082 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.92255 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.87961 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8644 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7413 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.89153 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.82423 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.86573 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.79126 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.92771 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76189 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76009 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79027 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81296 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.92495 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.8082 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.92255 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.87961 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8644 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7413 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.89153 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.82423 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.86573 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.79126 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.92771 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63295 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67267 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.70118 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70796 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82337 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65774 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63662 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69086 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60929 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.54595 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4273 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47619 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.40964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.50578 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.53754 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.54241 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.55949 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.60417 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.47421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.44507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.43044 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.42921 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.42805 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.36396 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3047 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.25124 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.34547 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.21553 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.41387 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.44685 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.45917 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.45074 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.3744 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.34704 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32661 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.32312 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.34208 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.28378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.23436 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.18042 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.27507 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.13976 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.27254 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.303 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.31479 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.28997 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.33207 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.2372 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.22254 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.2084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.19973 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.21831 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.18676 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.14479 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.10682 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.17843 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.07751 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06069 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.06757 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07012 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.06478 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07397 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.05226 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.0507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04762 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04548 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.04798 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04232 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03245 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02516 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04235 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01839 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03043 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.03387 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03521 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03242 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03726 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02631 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02546 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02395 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02293 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.0241 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02135 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01644 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01267 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02143 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00928 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00304 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00339 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00324 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00373 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00263 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00255 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00239 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00229 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00241 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00214 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00164 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00127 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00214 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00093 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63295 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67267 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.70118 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70796 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82065 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65774 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63944 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69086 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60929 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.54865 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4273 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47619 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.40964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.72495 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73824 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75789 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.77384 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87953 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72321 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7338 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7423 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7621 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.67942 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6545 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5593 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53363 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5719 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51473 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.7355 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74379 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76484 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78137 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88388 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73051 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74704 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7577 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77164 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69171 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67032 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57694 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55025 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58632 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52637 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.7362 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74773 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76942 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78272 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88496 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73249 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77527 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69512 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6777 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5824 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56328 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59319 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53581 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.73693 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74924 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77005 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78366 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88567 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73483 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75149 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76514 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77706 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69675 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67946 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5858 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56675 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59616 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54331 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.73693 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74924 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77005 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78366 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88567 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73483 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75149 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76517 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77716 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69679 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67959 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5859 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56691 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59633 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54343 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "BM25", | |
| "retrieval_model_link": "https://github.com/castorini/pyserini", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-30T02:51:53Z", | |
| "is_anonymous": false, | |
| "revision": "8f131c800dc437fc0df33d3d358edf5e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.73693 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74924 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77005 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78366 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88567 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73483 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75149 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76517 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77716 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69679 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67959 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5859 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56691 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59633 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54343 | |
| } | |
| ] | |
| } | |
| ] |