[ { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25875 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22805 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41945 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41636 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3143 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37434 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5003 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5634 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1918 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35769 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34271 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22675 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20448 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4041 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.37656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27078 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33499 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1564 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43624 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43869 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50835 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17468 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32677 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33093 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22981 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20015 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40976 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36255 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25356 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.34559 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15274 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45178 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44523 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52065 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18203 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32792 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33287 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24695 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43421 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.37617 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27058 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37278 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16425 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4728 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46921 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54039 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20756 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34721 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35189 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29466 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26691 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49917 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45097 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36441 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42323 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21705 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50765 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51081 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57387 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26465 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40893 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40107 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31055 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.28266 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51321 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.47051 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39346 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43706 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23689 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51596 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52157 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5827 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28418 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42572 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41483 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34649 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3201 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53618 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44549 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46309 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28529 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53104 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54513 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60148 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32769 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44388 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12048 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.07195 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19614 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.11842 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06519 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1597 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04938 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25802 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26647 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.33539 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.07932 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.14695 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18515 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1619 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11627 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28657 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20605 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11815 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.07889 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36757 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.34741 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42735 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.11549 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21559 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24818 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17762 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13372 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32349 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.24388 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14218 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27235 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09293 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39565 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36981 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45429 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12977 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24176 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.26668 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19397 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15344 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35999 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.2839 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17332 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29397 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1081 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4157 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38783 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14611 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26607 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28532 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2112 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39019 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.31766 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21099 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31215 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12625 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43016 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40253 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.483 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16436 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2903 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30241 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21353 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17599 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39262 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32145 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21672 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31423 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12923 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43134 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40413 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.4843 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1671 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29307 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30445 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21555 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1783 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39415 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32408 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22103 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31577 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13206 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43207 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40548 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48537 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16949 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29495 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30612 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12048 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.07195 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19614 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.11842 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06519 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1597 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04938 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25802 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26647 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.33539 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.07932 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.14695 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18515 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18575 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13858 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32355 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.2344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1442 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28517 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09739 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42785 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39556 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46839 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14356 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25296 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2892 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22435 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17636 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19523 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.34892 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13017 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48997 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44815 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52741 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18586 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31052 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33254 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27812 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23604 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48265 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39676 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28349 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42246 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17831 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55098 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51349 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58266 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25359 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38508 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39696 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41985 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37668 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66239 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58875 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52159 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57722 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31933 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65829 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64522 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68826 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42994 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55722 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54512 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.48753 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43707 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72004 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65964 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62338 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63799 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39441 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70023 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69258 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72805 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51611 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62539 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60094 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.69835 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62796 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.85074 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81877 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.87071 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.79315 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64237 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.80623 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82645 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84085 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.77342 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.78712 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76127 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25875 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22805 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41945 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41636 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3143 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37434 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5003 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5634 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1918 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35769 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34271 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15528 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1703 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29203 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32357 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.246 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24624 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13573 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26498 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.27894 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30226 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13075 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24559 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21461 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11904 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13883 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23705 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.26637 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20758 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19145 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1149 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.19558 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20071 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.21668 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.10687 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.19632 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16169 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08184 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09965 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.16592 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18892 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15752 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1225 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08416 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.11886 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.12102 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.12606 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.07816 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.13232 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.10586 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02811 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03433 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05071 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.06031 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06014 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03543 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03203 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03122 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03275 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03213 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0286 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04251 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03288 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0165 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02003 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02763 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.03401 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03594 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01967 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0196 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01656 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01789 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01726 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01708 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.024 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0187 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00235 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00287 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0032 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00421 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00487 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00243 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00307 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00186 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00224 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00205 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00251 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.003 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00247 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25875 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22805 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41945 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41636 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3143 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37434 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5003 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5634 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1918 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35769 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34271 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30011 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27951 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48017 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39337 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44112 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22641 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47739 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56671 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61552 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24417 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.429 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.409 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30966 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29274 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49631 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49868 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41324 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45589 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24126 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48755 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5785 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62409 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25997 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44385 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42051 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31743 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30287 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50527 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50903 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42708 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46357 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25057 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49316 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58491 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62934 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27147 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45314 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42942 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32354 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30986 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51119 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51524 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43566 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46933 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25898 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49693 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58969 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63332 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2798 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46039 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43618 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32436 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31061 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5117 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51575 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43621 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46995 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25997 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49737 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59012 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63366 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28084 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46099 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43688 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32487 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3112 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51203 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51607 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43655 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47031 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2608 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49767 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5904 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63394 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2815 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46139 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43737 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43353 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50888 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36066 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36134 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38401 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41288 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4505 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.41498 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5515 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38876 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.477 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3342 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40887 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37387 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40441 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36361 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45247 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37725 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40193 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43713 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44039 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40419 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34297 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.44348 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4216 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45052 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3798 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48912 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41702 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44132 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46495 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.45773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48122 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52401 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37971 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50649 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46709 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48651 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42096 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51276 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4963 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54163 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53702 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67104 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57488 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45663 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56854 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51744 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53048 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4846 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54719 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.51603 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54621 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55755 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55346 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56058 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58943 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47578 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57806 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52992 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54179 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49914 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55779 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54416 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58727 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57792 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57034 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62222 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50796 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59086 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55885 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52897 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5707 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.14873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13049 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15314 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.15736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.20894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.1909 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.23879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.28255 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.14308 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21163 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.28314 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16906 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.24053 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.27106 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.35932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.29414 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34664 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38681 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.23246 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.32461 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31341 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.364 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27643 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.42704 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28628 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31181 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42306 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.32297 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.38052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41881 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26438 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.36588 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35312 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39531 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30795 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44752 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31874 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33941 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.36622 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.35457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.47541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.41779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.441 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.29314 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40458 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38144 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33699 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45744 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38103 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4198 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38367 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45979 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32174 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42851 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39794 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42372 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35892 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46511 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35582 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38453 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40498 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.39129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38684 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44284 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.462 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32468 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.42991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39959 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42487 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36118 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46609 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35794 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3865 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40718 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.39316 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.52119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38856 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4639 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32657 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.43067 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40038 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42579 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36277 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46665 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.14873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13049 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15314 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.15736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.20894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.1909 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.23879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.28255 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.14308 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21163 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.28314 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16906 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28201 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.26842 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30336 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.302 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.40744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43013 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27529 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40333 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39554 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44585 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33534 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5261 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.34878 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34876 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38208 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.39235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48089 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50159 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5052 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50965 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54797 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40477 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61446 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4974 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.50735 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64201 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5436 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58054 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43821 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66128 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61927 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64886 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50859 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68675 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69031 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72078 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73284 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73568 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78088 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73939 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67444 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.867 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.80245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.82097 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7205 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83936 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77275 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7878 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.86622 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87771 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80367 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.76147 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.91365 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.86595 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.88279 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.78641 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.90361 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92226 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.94961 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.9298 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98668 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.94514 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.96092 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.98513 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43353 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50888 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36066 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36134 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35836 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.34415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.45109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.33631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31004 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25956 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.28288 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23006 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19881 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26797 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.17537 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24682 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.29369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.36848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.21014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.22913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.22957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2071 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.22541 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.1865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.15074 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.20168 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.12289 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.17486 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.2145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.19292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.16429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.14113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.15462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.13925 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.13989 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.15324 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.12147 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0911 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.13333 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.06867 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.05434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06308 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.05858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.06978 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.04786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.03866 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04464 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.042 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02392 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.03894 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01679 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03517 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03709 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02486 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02208 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0173 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.013 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02137 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00904 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00411 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00405 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00302 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00255 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43353 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50888 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36066 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.38378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36134 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.51108 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53854 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56953 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55605 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55556 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59364 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4408 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.48694 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42638 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44016 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45238 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.42704 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52611 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5507 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57929 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57264 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60748 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45638 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50802 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4593 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46289 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44752 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53532 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58881 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57782 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.713 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58536 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61654 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46579 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52394 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45951 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47319 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47268 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45744 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56939 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58354 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57824 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53876 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62086 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47443 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52902 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46566 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47972 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48048 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4651 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54188 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56961 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59535 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71567 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62137 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47518 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52935 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46634 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48043 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48093 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46608 } ] }, { "config": { "retrieval_model": "bge-m3-8192-sparse", "retrieval_model_link": null, "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-12T07:29:56Z", "is_anonymous": true, "revision": "cdb8b881277d9254055a7e48e8878f01" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54213 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56995 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59135 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62166 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47553 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52959 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46674 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48092 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46661 } ] } ]