[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46141 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62286 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64374 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66039 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60619 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65436 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43047 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82311 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78054 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62334 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63855 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3913 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55011 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60216 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60695 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52951 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37106 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59955 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70792 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70866 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54065 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5914 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57128 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38798 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53732 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60238 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49915 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6051 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36202 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60698 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71567 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71245 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54176 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58602 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56977 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4043 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56245 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62429 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.51774 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63825 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39193 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62892 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74415 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72895 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5722 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61379 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59626 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44365 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62321 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67112 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69727 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60868 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67306 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46864 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64908 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77159 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74926 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61117 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66922 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64201 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.448 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62719 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67421 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70185 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61685 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67412 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47519 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64976 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77381 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7511 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61237 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67265 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64655 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.448 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62719 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67421 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70185 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61685 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67412 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47519 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64976 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77381 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7511 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61237 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67265 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64655 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20977 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20075 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20121 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1312 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30823 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12022 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39035 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46501 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28084 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27466 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33124 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28404 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33851 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44227 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35975 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25457 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46871 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20187 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52336 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57935 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61218 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39896 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41403 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4354 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31348 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39985 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49777 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43469 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31966 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51219 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24183 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55588 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62811 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64586 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44157 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46627 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47368 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34075 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45625 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54817 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38682 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54735 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28462 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58266 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65942 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66562 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4768 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51556 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50862 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35951 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49026 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57525 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43896 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56556 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32048 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59313 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6739 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67537 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54637 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53117 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36022 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49112 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57592 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56221 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56578 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32177 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59323 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67429 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67569 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5471 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53209 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36022 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49112 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57592 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56221 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56578 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32177 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59323 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67429 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67569 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5471 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53209 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20977 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20075 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20121 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1312 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30823 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12022 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39035 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46501 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28084 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27466 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33124 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30454 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37264 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47159 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3901 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28606 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51704 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23477 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55781 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61233 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64182 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44003 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45043 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47139 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35352 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46802 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55627 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49937 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38882 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59906 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31002 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6146 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69514 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69933 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51695 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53617 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53814 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41577 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58374 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6537 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64513 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52709 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68868 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41844 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68001 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77227 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74701 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60907 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64461 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62642 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52555 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73828 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77657 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83489 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.748 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78283 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62099 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74037 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84782 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80524 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.7175 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.78859 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74802 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46141 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62286 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64374 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66039 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60619 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65436 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43047 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82311 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78054 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62334 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63855 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27651 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46376 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4368 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52039 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48488 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4298 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32262 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3571 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46079 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43467 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38956 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.449 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21188 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3769 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34684 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43633 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4111 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31857 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27058 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25539 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33663 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30284 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29451 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35163 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28869 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13809 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25427 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23024 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.30929 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29098 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19407 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15338 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20012 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17157 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18504 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23125 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18635 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03752 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06715 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05851 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08555 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.0846 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04729 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05904 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03494 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04634 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0389 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04577 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.06051 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04887 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4603 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62227 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6456 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66197 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60619 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65436 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43213 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60505 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8237 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78112 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62334 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63679 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49574 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.69201 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69703 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72657 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68819 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72369 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51145 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64532 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85984 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81616 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68891 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72321 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69889 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5016 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70241 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70685 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73851 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70172 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73435 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52882 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65072 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86445 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82001 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.69627 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73275 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70747 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50654 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7081 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71231 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7453 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70867 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7382 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54028 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65441 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86682 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82208 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70115 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73788 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71352 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50969 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71116 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71485 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74763 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71103 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73949 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54547 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65606 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86743 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82328 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70317 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74058 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71622 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50988 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71123 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7149 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74767 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71112 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73951 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5456 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6561 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86746 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82336 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70319 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74064 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71628 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50988 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71123 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7149 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74767 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71112 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73951 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5456 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6561 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86746 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82336 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70319 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74064 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71628 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82609 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76338 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65027 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59509 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56677 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65054 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68242 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72675 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76078 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68724 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69527 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59187 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69646 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59264 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57629 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70113 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65242 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69603 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70563 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59739 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7226 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63011 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68849 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59399 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72119 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69734 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72798 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74269 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64888 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77213 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6785 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71405 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63829 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7292 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75723 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7076 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78215 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71109 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.80572 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71692 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.74339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68905 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.74931 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7588 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76923 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78351 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.8073 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71949 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.74466 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69245 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75337 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7588 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76923 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78351 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.8073 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71949 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.74466 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69245 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75337 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24555 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25909 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28302 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30251 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.38562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41698 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30298 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41826 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39108 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46513 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30998 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44548 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43149 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.533 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56066 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57785 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4549 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59702 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51503 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60077 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47261 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67269 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51201 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54454 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60072 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53708 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61802 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6255 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50058 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64253 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55545 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62892 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51535 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68394 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5869 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6259 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65505 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65875 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68332 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58686 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64288 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55058 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68737 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62235 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63327 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73305 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67759 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57915 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7016 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60238 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65331 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57399 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69196 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63398 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65838 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6779 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57986 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70196 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60289 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6535 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57453 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69236 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63398 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65838 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6779 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57986 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70196 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60289 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6535 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57453 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69236 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24555 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25909 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28302 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30251 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.38562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41698 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30298 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41826 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39108 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46513 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30998 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49174 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50232 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55482 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61564 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50265 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66816 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59878 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72008 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5305 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.78313 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62298 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58374 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62053 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72233 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69701 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58739 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7623 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69584 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.79179 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61184 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83133 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76399 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76131 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.83328 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83772 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7835 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71648 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.87703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.81466 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.85831 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.72355 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.85542 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90433 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96684 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.8391 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94152 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.93321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8971 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.89514 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97387 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94126 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96217 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87997 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94378 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82609 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76338 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65027 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59509 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56677 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59467 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45699 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43352 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.44234 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33436 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3185 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40149 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.26104 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46667 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47574 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.47729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34118 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33602 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32842 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.32324 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24724 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21899 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29692 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.16627 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28092 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31652 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31864 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.32418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21935 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21503 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15276 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.12107 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18515 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08554 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07375 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04823 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0565 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04611 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03687 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02825 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04672 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01888 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00243 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75375 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82609 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76338 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65301 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71892 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59816 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56677 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78131 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81481 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86283 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88542 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.83109 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72222 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.79955 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68814 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68398 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6774 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67269 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79619 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82322 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88936 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73411 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.80914 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7021 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69288 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68763 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68394 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82622 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84669 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87218 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84073 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.74147 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81449 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71044 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.70022 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69483 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68737 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82729 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.74454 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81537 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71341 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.70325 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69857 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69196 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82733 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.74457 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81537 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71341 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.7033 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69867 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69236 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-16T02:26:13Z", "is_anonymous": true, "revision": "254277ac31d1acad26d33426f1e50547" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82733 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.74457 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81537 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71341 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.7033 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69867 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69236 } ] } ]