[ { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.68117 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38598 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39281 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5618 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32337 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43596 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63609 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52808 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35009 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47296 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36028 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.58839 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12606 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34526 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39412 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51965 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27955 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44388 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2434 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44515 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54831 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48583 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30595 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42112 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35347 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.58595 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13669 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34053 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40508 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50593 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26269 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45655 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23203 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46516 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5487 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.49891 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31048 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36226 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.63146 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15654 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36177 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43455 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52579 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28169 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49311 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24925 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48998 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57757 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52559 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33291 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44251 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38268 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.70378 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20584 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.44074 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49359 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61299 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3794 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54974 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31454 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52848 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62178 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56652 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38692 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50791 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43376 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.71485 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22107 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46163 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50876 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62738 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40888 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56218 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33334 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63189 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5755 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.405 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52304 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44657 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72296 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2592 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49477 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53525 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64608 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45952 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58325 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37393 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55394 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65238 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59414 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43961 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54869 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47805 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28516 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04444 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11555 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.17444 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.15159 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06969 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22365 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0744 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2735 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32915 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.31162 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14625 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.1867 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.1774 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.42287 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07922 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19526 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27221 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.28211 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12355 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33348 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12339 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37556 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43048 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.40126 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20873 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27721 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25228 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.47381 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09597 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23204 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31237 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34588 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14957 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37012 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1448 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4075 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45739 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42535 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23087 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.30889 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27946 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.52355 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11368 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26704 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35316 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41493 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18126 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40124 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16913 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43144 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48231 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44453 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24996 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34279 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30191 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.56027 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13161 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30096 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38191 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46409 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21965 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42294 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19331 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44687 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50048 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45992 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26798 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37177 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32113 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.56238 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1338 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30477 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38449 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4673 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2254 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42499 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19638 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44788 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50221 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27071 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37465 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32326 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.56305 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13575 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30721 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3862 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46889 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22976 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42636 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19901 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44868 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5036 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46245 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27282 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37645 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32508 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28516 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04444 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11555 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.17444 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.15159 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06969 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22365 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0744 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2735 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32915 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.31162 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14625 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.1867 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.1774 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.46593 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10087 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23011 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31882 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.31852 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14964 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37794 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14754 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42841 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48219 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45525 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25156 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32087 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30648 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.55541 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14127 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29932 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39693 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2033 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45709 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19279 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50009 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54075 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51545 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30681 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38733 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37211 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.68561 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19967 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3922 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49974 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5564 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29579 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55682 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26466 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5687 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61831 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58743 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37494 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48602 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44245 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.89342 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34608 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60638 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66003 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77613 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54542 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73133 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44376 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69608 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75102 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71692 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54248 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6671 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5944 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94178 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41164 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.68613 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82938 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78533 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51552 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75643 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72594 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64611 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.98974 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.64627 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.85888 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.8741 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.9267 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.892 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.9101 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.72714 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.86576 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.91083 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.86578 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.82447 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.8653 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.82332 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.68117 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38598 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39281 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5618 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32337 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43596 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63609 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52808 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35009 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47296 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36028 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.43961 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10587 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29444 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29409 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45645 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25347 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32181 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21219 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26751 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.35438 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29184 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22396 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31927 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24292 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33744 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09395 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24549 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24449 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38728 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21387 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24593 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17496 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.20189 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.25051 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.2095 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17343 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24789 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19192 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.22258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07174 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17183 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.1723 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.27759 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.16259 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.15764 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12537 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.12637 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.15277 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.12675 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.11213 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16881 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.12531 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.06098 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05556 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05041 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08115 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06231 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04371 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04329 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03307 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04032 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03367 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03466 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05053 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0374 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.03204 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01562 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02765 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04329 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03697 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02363 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02496 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01738 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02166 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01809 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01991 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02786 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02082 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.00333 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00225 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00386 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00327 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00474 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00493 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00273 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00338 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00195 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00254 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00213 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00262 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00331 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00271 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.68117 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38598 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39281 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5618 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32337 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43596 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63609 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52808 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35009 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47356 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3597 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.74073 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15806 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46111 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47119 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63958 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4076 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56922 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35014 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49495 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70538 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59786 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42249 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54971 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44288 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.75161 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1698 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47699 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48783 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65284 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4279 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58416 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36584 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50637 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71437 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60912 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43714 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.56371 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45817 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.75674 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17907 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48725 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49734 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66055 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4427 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59315 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37659 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51157 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71917 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61674 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44643 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57387 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46654 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.75985 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18618 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49466 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50246 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66441 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45075 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59806 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38432 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51519 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72205 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62075 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45243 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57892 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47209 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.76017 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18698 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49524 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50305 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66463 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45135 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59844 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38515 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51566 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72224 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62107 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45314 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57927 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4726 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.76025 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18772 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49556 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5034 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66476 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45164 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59865 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38565 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51605 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72242 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62124 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45358 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57951 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47308 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57057 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48087 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42577 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41365 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4937 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57528 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52678 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44558 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54597 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40573 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44006 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39786 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48851 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5128 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61822 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48912 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49515 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53342 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44678 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57527 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45467 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47981 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42012 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56195 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55292 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5407 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6228 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52562 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56444 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57663 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49048 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62142 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51528 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52406 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47252 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5835 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62903 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62698 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62703 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73992 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63632 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56448 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68176 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57267 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5724 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54393 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62199 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71104 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62908 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64112 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65694 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58464 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68951 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58469 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55665 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62782 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65773 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72053 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67211 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60684 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69214 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58917 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59092 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57559 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63389 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.16233 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.17676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.21582 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.2576 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.24445 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.26142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20693 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29028 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29031 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19784 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41365 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33377 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28317 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31966 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.38865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42296 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32581 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.44625 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34029 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39474 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3072 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51138 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3866 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.4834 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40439 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4247 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45093 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35637 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.49118 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38045 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42047 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34335 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52122 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44029 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41115 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43077 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.50943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45747 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47932 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39101 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52356 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4163 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44285 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37845 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53055 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47662 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47296 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54807 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58835 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50258 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4229 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54845 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43607 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45681 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40537 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5389 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46355 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47718 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59111 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48661 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50621 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42603 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54956 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43733 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45831 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4073 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53941 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59175 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46828 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46895 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.48793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50755 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42786 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54982 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43773 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45866 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40848 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5397 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.16233 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.17676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.21582 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.2576 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.24445 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.26142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20693 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29028 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29031 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19784 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41365 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38151 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32243 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.36182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.44749 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39118 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43191 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47962 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38267 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52951 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42542 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49505 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36077 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63855 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47339 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43216 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44739 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5405 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44888 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6318 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54181 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58457 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44652 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68273 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58841 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5739 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70949 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64028 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56002 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74441 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69718 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.70227 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57997 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.74699 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82753 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.84581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.8136 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.89906 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91443 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.78148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.85346 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8241 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.77914 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.94473 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.90332 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.88971 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.81155 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.91968 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.90198 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.91299 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86966 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98495 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95501 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95722 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87462 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99188 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.98994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.99828 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.98948 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99465 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.99907 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57057 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48087 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42577 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41365 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40944 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42442 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45464 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35481 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3405 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33242 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.37297 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22156 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28198 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.21285 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33179 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.40652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.26162 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.24462 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25082 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.27838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.20307 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16083 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21961 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13655 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.2289 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24675 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.26984 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.16 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.16583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.15511 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16749 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.17081 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.13528 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10119 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15042 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0747 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07477 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07009 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04349 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04973 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04503 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03558 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02611 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04392 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01839 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03914 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03921 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02457 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02757 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01874 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01409 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00956 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0038 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00424 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00385 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57057 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48087 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42577 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.41365 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64515 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78668 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63286 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66667 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56102 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64189 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46637 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49533 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51138 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66171 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65836 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64258 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67796 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57564 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65365 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4979 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48625 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5092 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52122 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67085 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66768 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67753 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68746 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5875 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66213 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51197 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49953 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52584 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53055 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67454 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68239 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80334 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6706 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59359 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66614 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51863 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50748 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53316 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5389 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6749 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68266 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80359 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65921 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69137 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59417 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66649 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51904 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50811 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53346 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53941 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T05:06:09Z", "is_anonymous": false, "revision": "4792e5fb8f1872779f91d4b91523a86d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67502 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68285 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74133 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65936 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69148 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59438 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66652 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51917 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50826 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53381 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5397 } ] } ]