[ { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30878 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50929 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43703 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53896 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29972 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51609 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61108 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63868 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35471 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50683 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44523 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10546 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25001 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47862 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49432 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37597 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49586 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25227 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51405 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51101 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54552 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2993 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43708 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40314 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10983 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23649 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47911 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.479 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34547 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50186 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24045 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52472 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50895 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55076 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30101 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42454 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39921 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11949 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24961 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49646 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49738 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35717 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53273 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25512 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54962 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53013 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57075 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32058 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44087 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41811 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15538 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30249 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55775 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58764 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45053 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58551 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31441 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58625 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57016 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60608 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37237 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49784 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46853 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16961 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3216 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57184 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6057 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47629 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59764 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33274 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59449 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58093 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61531 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38786 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51394 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48247 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21276 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36386 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59563 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62889 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52211 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61819 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37187 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61313 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60556 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63477 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42396 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50978 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04781 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09237 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23305 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.15723 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09521 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2539 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08021 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3395 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31782 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36436 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15872 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21865 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06943 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14194 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34328 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.27839 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17187 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38837 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13124 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44766 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40496 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45364 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21415 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29433 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29311 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07839 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16033 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38639 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.33334 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20719 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41952 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1532 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47373 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4273 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47828 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2321 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.323 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31725 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08728 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17951 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42349 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39085 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24569 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44578 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17588 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49699 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44495 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.49512 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2477 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34999 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33972 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09887 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19829 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45272 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43856 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28667 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4659 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19824 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51203 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45969 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50793 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26413 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37416 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35855 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10076 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20136 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45514 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44251 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46795 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20128 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51315 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46138 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50925 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2664 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37695 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36088 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10281 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20405 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45676 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44459 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29581 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46934 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20382 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51401 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46285 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51041 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26854 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37896 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36256 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04781 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09237 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23305 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.15723 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09521 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2539 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08021 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3395 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31782 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36436 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15872 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21865 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16092 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37523 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3097 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19894 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43701 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15515 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48706 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4425 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48839 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24493 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32763 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33068 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10691 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19748 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44463 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39934 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50511 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20027 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54062 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48986 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54233 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29242 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38171 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38261 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13844 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25993 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52784 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52285 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35977 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58957 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26794 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61321 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.551 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59921 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35286 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45701 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45329 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24827 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40736 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6976 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75002 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59657 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75187 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42846 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73312 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67536 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71228 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5147 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60415 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3106 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48044 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75634 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81559 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80409 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77567 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72179 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75423 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58106 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6813 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66054 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.57127 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.69761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.8914 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.93169 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.90819 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.92167 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.6998 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.91239 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86568 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.87193 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.79075 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.83312 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.81422 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30878 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50929 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43703 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53896 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29972 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51609 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61108 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63868 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35471 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50683 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44523 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07996 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20526 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34903 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42528 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34205 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35423 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21828 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29758 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32301 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.32465 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20932 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32779 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27338 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06707 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15958 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27931 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35316 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27908 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25788 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17784 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.21514 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.22668 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.22768 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15667 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24825 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.20562 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0462 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11108 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18333 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.25051 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19941 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.15946 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12438 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13211 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.13419 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.13179 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.09983 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16037 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.1321 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01787 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03664 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05297 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.07712 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06773 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04347 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04124 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03385 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03543 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03365 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03148 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04696 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03832 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01107 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02176 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0287 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03897 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02351 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0178 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01929 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01805 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01805 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02612 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02146 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00193 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00315 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00332 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00473 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00501 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00273 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00326 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00199 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00238 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00213 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00248 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00319 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00269 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30878 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50929 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43703 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53896 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29972 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51672 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61108 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63868 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35471 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50683 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44523 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14464 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35111 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56815 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61505 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52081 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60769 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36066 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56309 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66746 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68056 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40795 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.56991 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50742 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.155 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36139 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57884 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62932 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53439 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6214 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37512 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57145 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67482 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68809 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42136 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58046 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51817 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15979 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37225 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58554 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63801 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54516 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62982 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38621 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57754 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68005 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69266 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43005 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5884 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52728 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16567 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37931 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59086 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64261 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55217 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6343 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39319 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58099 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68357 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69598 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43698 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5929 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53294 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16666 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38014 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59136 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64295 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55259 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63462 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39386 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58147 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68389 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69629 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43767 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59341 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53345 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16757 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38073 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59167 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64311 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5528 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63484 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39436 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58192 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68415 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69656 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43816 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5937 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53382 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43989 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.273 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37255 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42791 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43692 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4719 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40527 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54254 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3525 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39323 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35656 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48661 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42662 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42058 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42471 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4724 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47766 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41593 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5872 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39094 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45005 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38739 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53932 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45325 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44599 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60078 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65265 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51992 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45753 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63626 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.44259 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49256 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56449 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56188 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55209 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58791 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54116 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68766 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51078 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54369 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51064 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59661 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58047 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56904 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59491 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6247 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56064 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69399 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52459 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55091 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52622 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60908 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60136 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59476 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75473 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6397 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62601 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58015 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69969 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53638 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55963 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54639 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61251 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15781 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.12162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.14397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.20073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21364 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.23942 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.28044 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.26613 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18679 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30733 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.18842 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22873 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16884 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26928 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.24005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25096 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.37074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.34316 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.39582 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37568 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.28562 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.45088 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29418 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34665 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26963 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46319 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.30956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.29182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.29422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48438 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.38396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40184 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.40086 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32125 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.49858 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32532 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38338 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30815 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4923 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35681 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34049 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33532 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48185 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54216 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.41741 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46329 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42731 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35399 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53259 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3556 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40416 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33716 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50299 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39703 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3877 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37708 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51936 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46054 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.49048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45227 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38546 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55466 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37749 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41839 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36698 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51042 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40061 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39104 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38089 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44752 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.49303 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45523 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38884 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55573 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37954 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41933 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36935 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51155 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40239 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39307 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38343 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.49427 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45685 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39035 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5562 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38023 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41989 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37062 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51174 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15781 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.12162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.14397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.20073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21364 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.23942 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.28044 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.26613 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18679 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30733 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.18842 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22873 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16884 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28416 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.42842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44302 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43365 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35023 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54388 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.38942 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46291 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32628 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55422 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38155 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37342 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56835 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4934 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4299 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66035 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48002 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58778 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42293 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68273 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53946 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50471 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47645 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65881 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5964 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54131 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77451 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60738 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.70846 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5321 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75904 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.78125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.86724 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.84418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80394 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.80337 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.93535 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.85322 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9048 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79474 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.8996 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87116 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.84351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82459 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9193 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88586 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96545 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.92091 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.94238 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87085 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.9759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.97947 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.98213 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.96619 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.99376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99465 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43989 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.273 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37255 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3526 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37638 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37278 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48279 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50906 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31272 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30328 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34595 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21677 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20772 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.25957 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.18474 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28092 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31171 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.29941 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.36991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.40489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.26905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.25127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.25322 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.22312 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2377 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.27135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.16871 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16261 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21008 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13655 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21441 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.20385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.26304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.15944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.15938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.14167 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.15738 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.17081 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.11411 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.09822 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.13725 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06087 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06865 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.0672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.04929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04642 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04242 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04956 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04422 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0335 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02635 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04269 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01799 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03332 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03583 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02358 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02768 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02289 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01825 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01386 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02319 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00976 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00376 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00417 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00311 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47977 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47748 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43989 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29141 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.273 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37255 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57563 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58087 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60469 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5905 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52596 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64144 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39571 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40406 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45191 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46319 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59729 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60179 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54194 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66212 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.41656 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47264 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4923 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60195 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58889 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60281 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73212 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66771 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61387 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55149 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66951 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43123 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44535 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48519 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50299 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59486 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60926 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78567 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63499 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6713 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61978 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55941 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67282 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4404 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45394 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49371 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51042 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60794 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59529 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60958 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61996 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55982 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67293 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.44084 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45428 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49418 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51155 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-09T02:12:49Z", "is_anonymous": false, "revision": "0e4d21db15cd30249706d0d3a3993d4d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60805 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59555 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60982 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78575 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60088 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63528 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67187 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62019 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55994 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67296 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.44121 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4545 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4945 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51174 } ] } ]