[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72963 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26208 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45415 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59677 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5048 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49443 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36066 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6897 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62768 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43096 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52585 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47452 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.64261 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23884 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37958 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44616 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54326 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43111 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44399 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30858 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47685 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58203 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56502 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37391 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48027 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45302 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.64438 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24529 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37675 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4549 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52512 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40299 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45728 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29764 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49168 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58962 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57672 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37848 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47588 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44998 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.6849 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26678 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40752 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48039 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54405 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42379 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.491 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32177 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51518 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62358 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60489 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40762 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50378 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47348 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.74833 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.489 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54676 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63302 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5231 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54667 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40174 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55125 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67056 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64229 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46944 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57321 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53616 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.75522 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33829 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50966 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56236 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64843 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54789 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56058 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42304 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55876 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68187 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48671 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58807 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55039 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.7624 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37364 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54239 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58473 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66905 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58142 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58361 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57512 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69981 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66759 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51931 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61093 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57446 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.30372 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10056 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12406 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.202 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16915 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10433 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21796 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29335 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36296 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36792 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18304 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2089 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.23193 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.46704 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15582 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21563 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31102 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.30583 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19558 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32953 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15873 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40399 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46238 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47094 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26181 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31862 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32622 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.53037 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17897 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25836 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35391 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36803 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24292 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18943 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43398 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.49664 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.49976 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28938 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36034 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35621 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.58294 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20295 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30185 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39604 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43433 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29843 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39644 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22317 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45748 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52539 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52249 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31431 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40068 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38536 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.61644 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22463 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33908 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42775 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48374 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3468 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41807 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25566 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47253 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54531 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53766 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33736 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43381 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41117 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.61776 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22701 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34296 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43057 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48714 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35217 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42032 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25943 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47362 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54731 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53909 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34024 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4366 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41358 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.61829 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.229 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34552 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43214 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48901 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35525 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42185 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26218 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47432 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54856 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54018 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34247 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43829 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41531 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.30372 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10056 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12406 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.202 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16915 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10433 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21796 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29335 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36296 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36792 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18304 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2089 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.23193 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.5097 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1901 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25523 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36012 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34002 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22551 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37938 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18925 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45554 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50579 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51966 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30602 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36437 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37869 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.61477 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24093 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33613 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44155 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43443 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30821 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46357 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25188 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52159 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57882 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58343 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37174 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44348 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44016 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.73783 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30959 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45391 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5385 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56789 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43617 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55593 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34651 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58889 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66857 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65919 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45897 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54972 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52344 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.91879 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47903 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.67374 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72522 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79351 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68743 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72484 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.56424 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.7063 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80906 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77474 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64739 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74149 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7056 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.99334 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.76163 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.92366 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.91297 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.95494 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.9412 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.92259 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.84259 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.86452 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.95927 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.90887 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.91189 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.92967 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.89904 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72963 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26208 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45415 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59677 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5048 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49443 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36066 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6897 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62768 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43096 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52585 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47452 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.48311 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18175 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32842 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3323 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.47017 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39506 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32416 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27091 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2877 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36847 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.34009 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26998 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36958 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31361 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.37621 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14847 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27578 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27237 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33362 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24745 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22526 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.21148 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26861 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.24285 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20843 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29103 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.23784 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.24146 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10472 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19546 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18717 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.27705 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24418 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.15753 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16094 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13022 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.16587 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.14586 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13605 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.19542 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.15495 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.06274 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.034 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06136 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05446 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08155 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07822 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05376 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03332 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04368 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03693 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04107 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05685 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04605 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.03234 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.00334 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00256 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00412 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0034 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00483 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00517 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00278 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00388 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00195 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00269 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00227 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00289 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00352 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00298 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72963 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26208 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45415 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59677 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5048 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49443 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36066 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6897 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62768 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43096 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52585 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47452 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.78809 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31973 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49568 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53098 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66875 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58645 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57001 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43536 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52671 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74856 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68964 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50135 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60695 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55487 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.79489 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33072 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.51389 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54842 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68089 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60264 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58497 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45354 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53554 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75889 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69913 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51689 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61952 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56744 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.79952 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33822 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52525 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55636 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68796 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61288 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59311 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46458 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5404 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76442 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70433 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5268 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62825 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80186 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34542 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53112 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56174 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69186 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61806 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59799 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47238 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54377 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76652 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70727 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53228 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63214 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58164 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80201 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34604 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56215 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69208 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61833 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59835 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47292 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54413 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76665 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70749 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53274 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63246 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58204 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80211 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34657 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53189 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56244 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69221 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61848 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59862 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47323 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54446 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76674 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70761 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53305 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63263 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58227 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54762 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59946 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53279 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42025 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40356 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47339 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53348 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56255 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48888 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54172 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47062 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59381 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45437 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48582 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44414 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59184 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54924 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54487 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62471 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53979 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55024 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48259 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62207 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50626 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46872 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61517 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58091 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59222 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57041 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65151 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66649 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59125 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53025 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66552 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55703 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5561 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51426 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63905 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67841 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6573 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59798 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64867 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61453 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71642 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60832 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60749 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57906 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66417 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67623 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68993 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67114 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61013 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66908 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66533 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66311 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62836 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72263 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61817 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61559 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59375 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66936 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68919 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68992 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63273 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68013 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64405 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72588 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62522 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6204 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60981 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6738 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20713 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18797 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.18982 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.22101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.28245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.27923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31481 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.23611 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31718 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.27513 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32715 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22335 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.34571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33501 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.39856 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42397 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36049 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.40591 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43555 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34811 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.48925 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38275 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44106 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34517 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55622 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40406 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39441 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.47476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48951 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46587 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39002 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53465 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42957 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46207 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38668 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56928 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4727 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45065 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55233 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43026 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48299 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48305 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49587 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43036 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56886 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46164 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48144 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42111 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57941 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50109 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51986 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51631 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46662 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5903 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47972 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49556 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44512 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58494 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50384 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5223 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49853 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57881 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51889 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46898 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59132 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48099 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49662 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44743 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5854 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50496 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52348 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50038 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59998 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46772 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52036 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47027 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59157 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48143 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49695 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44846 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58561 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20713 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18797 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.18982 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.22101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.28245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.27923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31481 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.23611 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31718 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.27513 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32715 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22335 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38455 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37519 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37536 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46935 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49185 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38456 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58048 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4702 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54797 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39991 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69478 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48289 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47593 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55908 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47304 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68054 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59257 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61029 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49481 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.751 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64077 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6364 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.606 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70955 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65637 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59374 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78201 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.71919 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71934 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61082 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.82329 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87251 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.90728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.88929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.84016 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.84835 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.94993 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.89954 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.92507 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.82564 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93574 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99157 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99966 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54762 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59946 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53279 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42025 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40356 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47339 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48749 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46943 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36508 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36901 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35573 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34335 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3982 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.27403 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.23937 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32026 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23159 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37692 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.41534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.27339 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.26183 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27049 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.22086 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16736 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24706 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.1502 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23786 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.27688 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.27227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.17521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.17171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.16237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18033 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.18135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.13865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10237 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15994 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08233 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06723 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07343 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0519 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04452 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04519 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03577 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02706 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04398 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01871 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00428 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54762 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59946 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53279 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42025 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40356 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47339 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69605 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71171 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77582 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6564 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67159 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60747 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69009 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53016 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50593 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54575 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55622 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72222 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72623 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68085 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66984 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68665 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62154 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70401 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5498 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52047 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56116 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56928 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72937 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69422 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63159 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70748 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5608 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53471 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57323 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57941 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72421 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73223 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73553 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79513 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68397 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69833 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63868 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.711 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56672 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54201 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58029 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58494 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73252 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6843 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69851 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.639 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71124 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56719 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54236 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58072 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5854 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:14:48Z", "is_anonymous": false, "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73268 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73596 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76351 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69591 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68436 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69863 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63913 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71132 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56733 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54247 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58096 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58561 } ] } ]