[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4603 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65184 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.619 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65729 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44654 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60442 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81954 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77939 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61467 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6738 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64733 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39043 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55114 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60443 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59859 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53436 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59821 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38525 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59863 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70804 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70746 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53596 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60177 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5873 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38854 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53905 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60423 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58561 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49909 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6043 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37175 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60646 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71245 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71174 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53516 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59649 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58328 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40651 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56512 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62685 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6115 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.51911 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6375 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40551 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62724 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74237 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72881 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56658 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6229 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44454 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62497 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61086 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67299 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47668 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64705 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77063 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7494 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60656 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67593 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65167 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44848 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62905 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67558 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6969 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61875 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67408 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48323 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64828 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77305 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75119 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60788 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67889 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65544 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44848 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62905 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67558 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6969 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61875 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67408 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48323 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64828 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77305 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75119 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60788 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67889 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65544 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20748 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20267 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30074 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.1984 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30897 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12266 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38839 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43492 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46468 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27501 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27912 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33533 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28256 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3399 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44248 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35422 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4695 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20851 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52143 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58072 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61136 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3948 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42022 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44734 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31279 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40105 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49833 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42819 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3196 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51284 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24893 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55529 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62533 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64543 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43501 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47449 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48519 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34213 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45915 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54908 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5047 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38788 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29545 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58151 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65773 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66541 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47052 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52389 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52208 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36016 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49299 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57649 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55401 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44009 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56536 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32959 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59148 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67282 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67552 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49025 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55371 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54374 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36078 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49383 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57701 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5553 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44208 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56556 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3309 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5917 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67326 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6758 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49053 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55435 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54451 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36078 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49383 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57701 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5553 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44208 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56556 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3309 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5917 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67326 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6758 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49053 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55435 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54451 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20748 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20267 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30074 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.1984 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30897 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12266 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38839 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43492 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46468 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27501 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27912 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33533 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30327 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37351 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47488 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38606 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28853 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51687 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24271 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55891 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61282 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64005 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43691 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48542 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35459 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46846 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55774 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49263 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38492 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59594 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31629 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61592 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68972 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69854 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51071 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54699 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55229 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42086 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58649 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65828 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64028 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5255 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68626 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43415 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67775 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76996 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74662 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60511 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65215 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64123 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52686 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73774 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77865 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83405 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.74951 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78241 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62099 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73803 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84696 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80546 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.71702 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.79043 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75124 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4603 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65184 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.619 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65729 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44654 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60442 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81954 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77939 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61467 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6738 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64733 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27633 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46297 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44052 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51279 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48737 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43019 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33573 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35815 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46178 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43389 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38687 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45752 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39563 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21366 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37714 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35006 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43064 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4079 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31681 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27679 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25678 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33365 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30214 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29093 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35865 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29795 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14098 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25486 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23116 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.30617 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29061 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19566 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20172 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15363 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.1994 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17157 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18382 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23488 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19227 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03768 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06715 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05876 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08544 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08461 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04731 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05906 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03479 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04628 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03891 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04572 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.06065 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04913 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46197 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65263 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62006 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65729 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44765 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60442 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81894 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77939 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61467 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6738 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64733 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49574 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.69348 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70074 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72018 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69575 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72574 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52752 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64574 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85726 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81423 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68226 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73619 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5031 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70414 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71001 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7307 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70864 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7347 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54297 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64987 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86149 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81883 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68995 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74498 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71701 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5071 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70946 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71527 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73809 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71592 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73958 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5547 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65337 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86393 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82117 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.69503 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75002 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72299 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51056 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71258 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7173 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71835 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74083 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55956 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65507 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86455 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.69686 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75207 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72505 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51076 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71269 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71736 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74065 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74085 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55971 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65513 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86459 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82226 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.69689 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75213 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72511 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51076 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71269 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71736 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74065 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74085 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55971 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65513 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86459 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82226 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.69689 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75213 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72511 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57975 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53116 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66317 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68125 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70602 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73175 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68209 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69508 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.569 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70881 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59265 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62033 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57561 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71223 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66048 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65557 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70165 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73533 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6325 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66261 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59359 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72847 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69934 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70278 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65805 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74196 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63163 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78324 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67321 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69291 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64123 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73581 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7625 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84987 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78581 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78068 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69721 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81401 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71643 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72282 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68862 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75732 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76418 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7782 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70074 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81522 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71869 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69157 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75935 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76418 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7782 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70074 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81522 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71869 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69157 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75935 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25348 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23132 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24787 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37918 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41944 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2818 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42546 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39062 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43497 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29588 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45572 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45979 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55334 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56264 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57905 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43403 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60553 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51582 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56977 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46616 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6834 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5087 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54288 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61995 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61299 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62316 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48584 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65443 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55881 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59952 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50953 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69224 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59417 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61827 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6596 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65696 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53239 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69495 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58523 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6167 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54961 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69501 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63413 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7079 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60108 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67977 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67589 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56374 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7112 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60266 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57139 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69969 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63463 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60165 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67623 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56447 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71147 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60312 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62698 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57188 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69989 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63463 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60165 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67623 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56447 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71147 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60312 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62698 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57188 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69989 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25348 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23132 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24787 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37918 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41944 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2818 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42546 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39062 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43497 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29588 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49857 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50572 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61531 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48593 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67909 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59975 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68719 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5313 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62206 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57463 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62451 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73328 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69074 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58397 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77624 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69886 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.77646 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61761 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83534 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75197 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74339 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76186 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83439 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70767 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78496 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70543 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.8853 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7971 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.85633 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.73455 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.85944 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92105 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90678 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94778 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96449 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94199 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.93347 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89486 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.89459 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97495 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94254 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96464 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88184 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57975 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53116 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54528 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58876 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46872 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45789 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41803 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.45045 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33538 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.30366 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4043 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.26506 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48859 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.34464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32787 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.32811 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24969 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2986 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.16707 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31982 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.30885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3231 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.207 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2123 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.20162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15031 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.12107 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18992 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08594 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.08006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.0507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04817 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05656 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04627 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03699 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02831 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01912 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00243 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83424 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58282 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53412 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79287 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81281 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83136 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89085 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82864 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.83244 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68852 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.81441 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68712 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64787 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68067 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6834 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80299 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81972 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83979 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82871 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.83728 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70451 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82117 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69801 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6909 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69224 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80714 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84325 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.8401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84202 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70904 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82398 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70528 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67216 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69788 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69501 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82442 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89683 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.834 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84315 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71332 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82528 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7085 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70199 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69971 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82452 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89689 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83405 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84321 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7134 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82528 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7085 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70208 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69991 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_efg_small", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-16T02:27:10Z", "is_anonymous": true, "revision": "4873e1f46da150ace6710c6a4196da2e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.82452 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89689 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83405 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84321 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7134 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82528 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7085 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70208 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69991 } ] } ]