[ { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11049 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29405 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51177 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45945 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5577 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30194 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5142 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61227 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63463 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35875 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52228 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46104 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10231 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24106 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47936 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51206 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38948 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50482 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25456 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51848 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50821 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5433 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3031 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44387 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41315 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10557 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23006 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48098 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49742 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36068 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51158 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24507 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52903 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50658 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54843 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30263 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43366 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41096 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11851 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24193 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50068 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51353 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3742 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54445 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26086 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55164 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52889 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57054 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.449 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4317 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15557 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29455 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56152 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60257 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46613 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59531 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32055 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58981 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56928 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60648 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37602 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50705 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47964 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1692 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31394 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57549 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61958 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49255 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60743 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33902 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59813 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58091 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6162 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39192 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52225 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49332 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21231 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35554 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5989 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64162 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53588 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6279 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37746 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61684 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60582 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63524 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42786 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54946 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52075 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04456 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.08656 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23419 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16357 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10018 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26113 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08247 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33595 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31972 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36519 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16155 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21239 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22633 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06651 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13629 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34491 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.28846 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17987 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39458 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13446 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45021 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40249 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45308 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21749 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29977 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29973 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0753 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1547 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38864 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34734 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21735 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42823 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15739 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47681 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42494 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47674 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2343 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33075 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32659 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08552 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17329 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4266 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.40639 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2589 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45619 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49921 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44387 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.49475 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25001 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35806 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35055 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09754 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19171 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45628 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45402 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30019 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47602 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20393 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51497 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45843 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50796 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2671 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3831 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36907 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09945 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19481 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4586 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4578 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30564 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4781 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20696 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51605 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46018 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2694 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3858 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37137 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10145 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19749 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46024 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45979 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30948 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47954 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20944 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51691 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46174 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51059 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27155 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38771 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37309 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04456 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.08656 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23419 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16357 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10018 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26113 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08247 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33595 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31972 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36519 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16155 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21239 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22633 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08072 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15545 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37816 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32092 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20745 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43996 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15622 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49476 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43931 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48559 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24856 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3295 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33794 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10356 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19352 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44912 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41465 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27416 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51173 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2043 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54789 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48833 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53949 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29258 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38828 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39436 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14139 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25224 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53566 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53695 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37843 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60257 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27406 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61379 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55082 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60076 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35468 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46256 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47015 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25528 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39838 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70418 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61216 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75747 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43542 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73866 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67632 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7159 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62468 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61108 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31512 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76361 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70632 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80887 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75936 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68623 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66745 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5765 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6854 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.89669 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.93439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.91368 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.92577 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.70517 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.91982 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87146 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.87337 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.79662 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.83377 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.82193 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11049 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29405 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51177 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45945 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5577 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30194 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5142 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61227 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63463 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35875 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52228 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46104 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07903 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19839 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34986 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4401 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35201 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.36126 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21902 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.302 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32043 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.32291 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21163 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33096 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27905 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06519 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15628 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27955 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36781 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29104 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26409 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18127 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2183 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.2249 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.22559 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25419 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21207 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04814 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.10837 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18594 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.2587 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20859 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.16374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13262 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.13425 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.13225 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.10006 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16316 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.13685 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01869 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03596 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05354 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.07839 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06922 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04384 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04197 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03409 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03553 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0318 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0477 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03903 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01139 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02143 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0289 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04249 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03983 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02431 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01791 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01823 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01826 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02635 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02172 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00196 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00311 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00333 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00475 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00503 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00274 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00328 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.002 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0024 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00214 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0025 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0032 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00271 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11049 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29405 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51177 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45945 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5577 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30194 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5142 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61227 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63463 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35875 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52228 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46104 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13816 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56857 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63531 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53878 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62205 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36085 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56583 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66448 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67555 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41142 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58061 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52324 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14691 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35202 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57873 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64911 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55444 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63467 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37766 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5739 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67205 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68435 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42401 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59154 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5341 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15397 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36198 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58697 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65652 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56502 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64339 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38887 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57906 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6776 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68981 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43359 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59889 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54308 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15968 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36955 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59132 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66057 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57108 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64792 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39602 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58289 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6816 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69316 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4405 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60329 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5477 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16049 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37036 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5919 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66086 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5715 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64821 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58341 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.682 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69348 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44118 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60372 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54821 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16144 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37091 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59215 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66102 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57166 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64844 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39721 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58387 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68221 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69371 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44165 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.604 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54856 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4985 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50806 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45902 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.51622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33742 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.2997 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38095 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45062 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44483 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4864 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42162 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38848 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42351 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37805 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51525 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45252 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43574 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44641 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4904 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43159 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58696 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.421 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4716 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4044 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54307 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49621 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47106 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46959 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55553 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53557 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47187 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63639 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47029 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50906 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44576 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5747 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58448 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57104 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56161 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68697 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74615 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62578 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63852 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59847 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5575 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68675 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53425 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56141 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52481 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60586 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60053 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58784 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58295 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64055 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61335 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57577 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69447 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55116 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56941 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54105 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61975 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62217 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60836 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71241 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76389 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63465 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59554 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70016 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56023 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57663 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55952 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62143 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.1792 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13592 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.21238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.25238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.28137 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27258 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20309 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29535 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21935 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.24827 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17827 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28881 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2532 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42594 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35233 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4034 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38138 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30094 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.45589 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32721 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37265 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28847 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48527 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3072 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31493 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49482 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44021 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41203 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33811 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.49989 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35539 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40485 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32486 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50054 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38218 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35821 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35612 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42856 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47285 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44077 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37132 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53415 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38381 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42374 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35339 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51389 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42139 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40651 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59767 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.49958 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40407 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55665 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40511 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43868 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38296 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52101 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40987 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53772 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50176 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40733 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55791 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40741 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43966 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38546 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5223 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4115 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40625 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53874 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60092 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46063 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50302 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46789 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40889 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40796 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38662 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52238 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.1792 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13592 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.21238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.25238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.28137 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27258 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20309 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29535 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21935 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.24827 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17827 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33574 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.29097 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30834 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.4719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40034 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43338 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35656 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55813 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42534 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50346 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35172 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60241 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39157 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39407 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47963 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5384 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.54194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50697 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43556 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66149 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5054 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60831 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44044 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67068 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51998 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50534 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71596 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57922 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61679 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54419 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77683 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62621 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71093 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54679 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.76707 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80834 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79414 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76127 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87579 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.78757 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.87716 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.86223 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81384 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.81157 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.92849 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.85322 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.91024 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.80277 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.90361 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88665 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93921 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98795 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.986 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9816 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.97709 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.99326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.98899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99556 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4985 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50806 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45902 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.51622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33742 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.2997 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38095 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36416 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38639 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39448 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.52083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31272 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31056 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35586 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23517 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22453 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27731 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.2008 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.29422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31832 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31243 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.37345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27143 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.25634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.25658 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.23065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24317 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.27243 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.17607 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16736 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21849 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13414 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20376 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.16366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.16275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.14866 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.15874 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.17108 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.11687 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.09881 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.1409 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07671 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.06796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05018 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0471 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04296 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04984 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.044 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0335 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04303 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01807 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03344 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02768 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02295 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0185 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01398 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02345 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00988 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00378 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.0042 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4985 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50806 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45902 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.51622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33742 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.2997 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38095 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60549 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57858 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59633 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54964 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63694 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43609 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43373 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46732 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48527 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73201 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79085 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60689 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6331 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61286 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5622 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65477 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45373 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45539 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48469 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50054 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62966 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60438 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62291 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66067 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62395 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57188 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6632 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46845 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.497 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51389 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63579 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61065 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6275 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79904 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61915 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66567 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62848 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57981 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66631 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47629 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47717 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50595 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52101 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63597 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62808 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61979 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66588 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62869 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58033 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66647 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.477 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47764 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50647 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5223 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:31:06Z", "is_anonymous": false, "revision": "24f389ca5f063163e3e0363c884f70bd" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63606 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61116 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62827 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62009 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62889 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58045 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66653 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47723 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4778 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50679 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52238 } ] } ]