[ { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2332 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43606 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53408 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66166 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50213 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56005 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35235 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47129 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61436 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48238 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53535 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53368 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21951 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40841 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61607 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43821 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51633 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31118 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50023 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57703 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57719 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43933 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48391 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50782 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22683 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40796 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52404 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59835 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40672 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52797 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30035 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5222 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59328 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59704 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44881 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4871 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51013 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25001 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4413 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55661 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61865 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42265 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56589 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32624 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54908 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62832 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62982 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49028 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52131 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54026 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30505 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52432 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62045 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70014 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52735 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62246 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40434 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58135 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67494 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66699 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55526 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58945 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60107 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31951 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54136 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71161 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55084 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63367 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42331 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58901 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68329 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67435 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56961 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60374 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61289 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35364 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56643 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64729 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72454 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58234 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65109 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45754 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60424 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69777 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68646 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5887 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62234 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62938 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08513 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23385 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18436 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10515 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25785 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09019 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29976 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33531 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36006 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20706 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21079 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2527 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13991 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23358 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36403 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34761 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2029 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39889 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15915 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42282 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45486 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47966 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31065 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32164 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3641 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16435 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.28291 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41577 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42577 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2489 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43859 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19072 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46041 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.49547 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51701 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34797 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36833 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40393 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19027 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33294 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4675 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50763 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29951 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47095 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22556 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48809 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52677 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54416 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38655 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41424 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44164 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21201 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37319 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50047 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55704 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35007 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49459 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25851 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50265 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54797 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56006 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41384 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44738 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46949 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21411 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37649 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50243 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5597 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49667 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2619 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50366 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54943 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56131 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41639 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45009 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47163 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21588 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37852 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50358 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56091 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35826 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49789 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26441 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50431 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5505 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56207 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41778 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45157 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47289 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08513 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23385 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18436 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10515 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25785 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09019 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29976 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33531 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36006 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20706 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21079 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2527 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17092 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27726 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41408 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38468 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23453 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45538 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19407 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48331 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51819 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53765 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36557 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37157 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42404 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22274 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36697 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50351 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49857 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31299 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53644 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25834 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56497 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60493 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61971 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45093 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46159 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50555 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29653 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49108 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62418 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65041 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43239 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63881 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35564 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64179 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69521 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70482 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56539 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57921 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60808 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46329 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71333 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.79932 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85588 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69708 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.8081 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.56481 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74266 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83281 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81975 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.76219 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76532 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.78134 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52844 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.77947 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.8461 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.89902 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78074 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.85538 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63829 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78292 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86931 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.85242 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.82435 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.82437 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.83094 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.74568 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.91084 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.9383 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.96603 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.93516 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.95875 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.81795 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.89845 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.95009 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.92636 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.93771 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.92621 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.92446 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2332 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43606 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53408 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66166 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50213 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56005 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35235 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47129 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61436 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48238 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53535 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53368 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17509 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38765 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53938 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40235 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37239 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27701 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30578 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37741 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35785 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32563 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37255 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35813 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14692 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29959 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31351 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45257 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33372 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27885 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2297 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23016 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.28255 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26207 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25384 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2997 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27721 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10589 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21402 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21549 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.31882 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23885 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.17528 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16488 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14227 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.17439 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.15976 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16996 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20523 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18178 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03419 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06483 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0598 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08737 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07866 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04756 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05432 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03505 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04528 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03983 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04835 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05857 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.05092 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01911 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03537 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03154 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04579 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04396 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02546 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03041 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0183 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02382 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02093 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02625 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.03153 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02727 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00248 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00405 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00344 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00485 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00513 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00284 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00376 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00199 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00265 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00229 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00294 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00351 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00302 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2332 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43606 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53408 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66071 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50213 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56005 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35235 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47192 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48238 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53535 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53427 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28327 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5273 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60791 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7311 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58654 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63757 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43481 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72871 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68742 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56817 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61705 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29579 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54407 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62142 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74204 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60145 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64935 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45318 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55298 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74014 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6992 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58484 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63176 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63373 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30371 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55509 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63003 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74809 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61122 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65773 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46494 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55878 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74459 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70529 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59297 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64042 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64107 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31016 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56043 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63438 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75077 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61672 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66194 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47144 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56179 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74633 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70748 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59729 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64437 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64503 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31084 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5608 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63471 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75094 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61695 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66214 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47201 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56223 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74653 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70764 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59766 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64458 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64536 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31149 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56103 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6349 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75102 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61709 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66232 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47233 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56263 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74662 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70777 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59787 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64471 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64551 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64785 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69459 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4908 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45994 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.507 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5992 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56851 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62842 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71734 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56835 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62589 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58895 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60105 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54164 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66989 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53258 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55758 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49795 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63339 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59289 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60992 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64747 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61086 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56186 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69616 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57617 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60576 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53061 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66191 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64774 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62096 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75185 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65566 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61324 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74361 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63616 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64272 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57961 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6795 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71979 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72685 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67258 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71242 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68228 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7863 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67479 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67821 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63887 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70603 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82334 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72193 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69286 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78868 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68062 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68204 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64838 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7107 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73773 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74472 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72669 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73257 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70192 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78999 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68386 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68464 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65814 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71185 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22955 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20131 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.28345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34586 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2663 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.4026 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31189 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3729 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24242 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35203 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49133 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47267 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48919 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40547 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56948 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45722 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39091 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60241 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46446 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42306 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45541 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57286 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54694 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5111 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52723 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46095 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61931 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50043 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43904 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61847 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.59764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56168 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50933 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65578 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53923 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55833 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48154 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62538 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54893 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57457 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63402 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61407 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58647 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54138 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67633 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55344 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56941 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50545 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63143 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57479 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55108 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63513 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58812 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54314 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67675 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55416 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56999 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50682 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63188 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57545 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55191 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57753 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68928 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55112 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57823 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58901 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54391 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67685 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55432 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57013 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50751 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63194 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22955 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20131 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.28345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34586 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2663 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.4026 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31189 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3729 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24242 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38531 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43768 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48609 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53039 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.54327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54362 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45645 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63418 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5588 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62537 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46516 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72289 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55576 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50531 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61701 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62017 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56517 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73176 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66397 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72972 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79116 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71815 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68412 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69584 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77322 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79727 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72557 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69517 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.84485 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.81221 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.8269 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69386 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.84739 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91433 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89986 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.91648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85279 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91856 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.89933 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98054 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94545 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96266 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89136 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96386 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.95347 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.94454 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.95177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.97102 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9928 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.90678 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.98124 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.93873 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.94731 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.99212 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.97751 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9822 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.9395 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.99197 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99904 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9967 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99507 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99898 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64785 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69459 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4908 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45994 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.507 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49326 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48048 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53452 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58424 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.41865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.40233 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39709 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.43514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31697 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.28091 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35854 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24096 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3896 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42367 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.43953 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.29409 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31913 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31946 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24233 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20178 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28179 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15823 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26561 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28889 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.29263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1994 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.20704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.18992 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.18226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21066 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.1546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11751 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18151 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08474 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0704 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0788 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05223 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04823 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05683 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04649 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03712 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02819 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04717 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01928 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04096 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04068 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.04008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02981 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02351 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01911 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01445 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02457 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00992 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79076 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64785 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60383 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69459 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4908 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46291 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5098 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73651 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7047 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76677 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78859 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69494 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71475 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72894 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67805 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77297 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6002 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58506 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60551 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60442 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72603 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7749 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7998 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77282 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7247 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73714 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69226 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77811 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61769 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60762 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62162 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62048 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73454 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80459 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85668 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77608 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74255 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69958 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78474 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63107 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61727 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62825 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62739 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73656 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78139 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7344 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74568 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70348 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78753 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63493 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62149 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63326 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63344 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75678 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73667 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78159 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71049 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77787 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74596 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70378 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78761 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63511 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62165 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63364 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63388 } ] }, { "config": { "retrieval_model": "test-model_0624", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-12T12:55:36Z", "is_anonymous": true, "revision": "4a5f4741c5ea3c64bc80dd831c1e392a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75684 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73674 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73456 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74602 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78762 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63517 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62171 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63378 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63394 } ] } ]