[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46585 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6264 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63941 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7248 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59232 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63327 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47091 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55836 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8237 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77533 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59676 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64323 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39256 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55438 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60483 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67081 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52089 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57748 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40567 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57369 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71129 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70536 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52855 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59406 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58321 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38892 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53905 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5989 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65242 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49359 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58601 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39114 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58627 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71644 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71073 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53049 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58866 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58188 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40466 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56246 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62358 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66907 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.51243 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6218 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41576 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60708 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74544 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73002 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56141 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61817 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60777 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44172 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62331 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66946 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.732 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60496 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65919 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.487 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62876 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77356 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74752 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60021 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67211 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6502 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44781 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62775 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67284 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73463 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61219 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66053 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49295 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63032 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77525 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74943 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60161 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67537 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65308 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44781 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62775 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67284 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73463 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61219 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66053 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49295 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63032 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77525 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74943 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60161 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67537 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65308 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20865 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19889 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29428 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20956 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12629 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29313 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12732 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35868 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4346 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45764 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27662 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32783 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28413 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34034 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44145 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38909 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24879 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44774 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21996 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49616 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58317 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60606 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38537 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41549 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44188 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31446 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40102 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49353 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.47657 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31482 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49067 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2635 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53135 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62811 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64159 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42777 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46724 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48128 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34167 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45624 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54596 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56431 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38243 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5267 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30535 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55764 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66061 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66421 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46318 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51729 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51883 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35936 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49055 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57308 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60736 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43505 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54592 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34011 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56858 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67574 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67285 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48194 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54804 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54056 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36034 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57376 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60804 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43676 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54618 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34128 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56883 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67608 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67316 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48219 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54876 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54112 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36034 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57376 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60804 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43676 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54618 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34128 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56883 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67608 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67316 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48219 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54876 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54112 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20865 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19889 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29428 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20956 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12629 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29313 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12732 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35868 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4346 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45764 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27662 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32783 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30394 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37609 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47672 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42069 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28172 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50162 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25433 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54299 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61471 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63945 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43638 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45278 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48154 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.353 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46778 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55205 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54156 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38573 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5838 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33312 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60778 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69407 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70058 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51518 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54046 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55391 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41497 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58185 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65659 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69074 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52388 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67936 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43644 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66899 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77325 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75513 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60753 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65042 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64216 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51825 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73676 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77491 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.84144 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.75086 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78167 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62314 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73614 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85022 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80482 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.7163 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.78926 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75456 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46585 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6264 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63941 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7248 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59232 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63327 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47091 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55836 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8237 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77533 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59676 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64323 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27855 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46749 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44279 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58306 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4783 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41711 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35494 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34658 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46555 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43524 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38571 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45058 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39465 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21421 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3782 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34535 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49033 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31002 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29252 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25249 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33782 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30504 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29174 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35163 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29971 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13887 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25333 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23048 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34048 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29136 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19361 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20205 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15192 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20083 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17487 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18452 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23274 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19274 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03695 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06699 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05846 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08636 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08502 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05925 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03474 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04648 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03889 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04573 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.06055 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04943 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46585 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63879 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72622 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59605 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63503 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47535 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55773 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8243 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77591 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59792 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67142 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64206 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50093 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.69574 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69734 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.78404 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.67858 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70972 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5554 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61356 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86083 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81374 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.67129 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73272 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70572 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50681 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70472 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70499 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79284 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69283 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71857 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57039 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62126 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86616 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81869 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68021 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74371 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71641 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5109 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7103 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71075 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79681 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69944 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72393 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57928 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62422 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86811 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68495 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7487 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72137 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51389 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71325 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71311 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79859 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70242 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72536 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58377 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62624 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8687 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82175 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.687 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75068 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72356 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51413 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71319 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79862 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70253 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72539 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5839 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62632 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86872 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8218 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68706 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75075 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72364 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51413 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71319 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79862 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70253 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72539 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5839 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62632 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86872 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8218 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68706 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75075 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72364 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72543 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74556 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73925 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67297 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57669 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52819 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59839 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6554 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64871 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70386 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55205 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67008 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59267 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6196 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56935 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71003 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64662 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63252 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7137 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75407 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68741 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57007 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70034 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63738 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65985 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59668 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71815 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67755 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72897 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66056 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76017 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73267 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61871 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75403 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68162 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69003 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64312 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73466 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70459 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.76794 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68418 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78874 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71909 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72184 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6889 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75715 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7782 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81095 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80015 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69114 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7902 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.72104 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72276 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69169 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75779 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7782 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81095 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80015 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69114 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7902 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.72104 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72276 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69169 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75779 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22479 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31533 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30675 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38419 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.39363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3987 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.28068 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.39981 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3829 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42755 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2999 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59839 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44641 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40666 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45923 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.50278 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53977 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47795 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56977 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56431 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41605 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57088 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51448 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56895 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46079 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68206 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52002 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54494 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62544 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60589 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47063 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61828 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56008 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59695 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51147 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68648 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58481 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5691 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62986 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65666 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66453 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65481 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64537 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51614 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66288 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59305 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61445 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54977 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69306 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62003 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6109 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66113 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59824 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66232 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54659 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6805 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60756 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62517 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57097 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69798 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66149 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69164 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59919 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6629 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54796 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68085 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60791 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62529 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69803 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66149 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69164 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59919 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6629 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54796 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68085 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60791 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62529 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69803 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22479 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31533 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30675 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38419 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.39363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3987 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.28068 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.39981 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3829 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42755 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2999 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59839 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49451 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49672 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5481 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57117 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62382 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61255 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65073 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60502 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79116 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55823 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71749 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68561 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56889 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74896 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71448 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.77176 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62008 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81124 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71828 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82843 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83099 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78834 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68917 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.86936 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.81727 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.84941 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7398 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.86345 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91944 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90373 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96601 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.93974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.9275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.88996 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88091 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97419 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94305 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96365 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88284 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96386 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72543 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74556 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73925 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67297 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57669 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52819 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59944 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59839 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54624 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55856 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59467 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47339 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4543 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40073 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42793 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33947 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.30465 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40056 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.26372 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48047 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4767 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34286 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.32796 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31639 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3173 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25644 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21365 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30364 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.16225 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.30961 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.32456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.30295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.21944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.20672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20161 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20683 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.2 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15644 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.12107 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19048 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08635 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07958 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05375 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05552 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04616 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03712 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02831 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01928 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00243 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72543 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73925 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62568 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57669 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53116 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59438 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79576 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78829 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.85154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81138 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69763 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77027 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64688 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67927 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68005 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80125 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79955 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82076 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89248 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.85714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81703 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71225 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69545 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66469 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69244 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68367 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80645 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82431 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.85937 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82028 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71753 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78549 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70093 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67163 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69895 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69101 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80878 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80368 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84808 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.86083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82157 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72174 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78733 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70426 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67593 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70235 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69598 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80881 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80378 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84949 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.86095 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82162 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72196 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78733 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7043 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67597 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70245 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69604 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": null, "reranking_model": "test_def", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-10T03:32:54Z", "is_anonymous": true, "revision": "c7d2ec1a47f2f6ab4c402b606e5d5603" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80881 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80378 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84949 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.86095 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82162 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72196 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78733 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7043 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67597 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70245 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69604 } ] } ]