[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49195 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69393 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72923 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64148 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52188 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80776 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68746 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65835 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6901 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42695 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56726 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64888 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67883 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52016 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56693 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45061 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72173 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72918 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59091 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58467 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62534 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42494 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54841 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64481 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66148 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48124 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56832 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42854 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63749 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.723 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73461 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58911 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57671 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62254 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43988 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57272 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66421 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67747 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49655 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59648 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45325 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65422 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75304 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75159 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61543 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60325 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64516 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46874 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62803 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6993 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73628 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5898 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63511 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67075 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77945 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76531 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64327 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65895 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67733 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47178 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63286 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70172 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73935 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60235 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51924 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6718 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78118 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76696 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64485 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66517 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68025 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47178 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63286 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70172 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73935 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60235 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51924 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6718 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78118 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76696 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64485 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66517 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68025 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22074 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20273 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31451 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21186 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12746 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29102 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14152 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42171 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43965 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47601 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30755 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27108 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34833 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3119 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34676 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47563 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3947 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24607 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43822 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24833 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55461 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59346 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63005 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44501 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40835 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47598 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34785 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40905 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53721 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.486 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30566 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47992 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29494 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58857 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63715 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66896 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49029 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45887 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52347 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37778 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.469 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59057 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.57555 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37021 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51053 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34234 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61306 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67163 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69018 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52683 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50726 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56215 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39304 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49947 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61375 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61615 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42066 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52739 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37424 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62257 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69754 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54146 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53681 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57967 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39343 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5004 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61423 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61692 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42341 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52888 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37518 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62271 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68595 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6978 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54173 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53804 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58025 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39343 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5004 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61423 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61692 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42341 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52888 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37518 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62271 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68595 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6978 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54173 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53804 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58025 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22074 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20273 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31451 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21186 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12746 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29102 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14152 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42171 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43965 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47601 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30755 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27108 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34833 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33182 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37768 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50167 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42311 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27135 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27928 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58066 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62026 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65588 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47661 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44368 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50622 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38862 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46941 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58995 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54692 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36387 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54849 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35978 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63689 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69335 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71722 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55389 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52388 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58449 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45207 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58981 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68894 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69614 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49759 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63287 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4672 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69078 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77573 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76766 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63843 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6293 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66973 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52989 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73558 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7777 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83934 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73059 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75009 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62439 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.7378 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85015 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80598 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.71529 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77728 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75438 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49195 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69393 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72923 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64148 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52188 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80776 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68746 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65835 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6901 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3089 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48183 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48203 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59355 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47581 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4134 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39557 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3714 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47568 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45165 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42769 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44444 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42999 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23998 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38774 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38005 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50147 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39605 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31922 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26587 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.34151 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.31882 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32166 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34545 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3283 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15325 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26152 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24641 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3473 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28063 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.185 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21922 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15609 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20393 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17973 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1978 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.22626 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.20639 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03793 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06691 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05881 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08621 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08317 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04508 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05961 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03484 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04647 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03898 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04574 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0596 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04937 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01939 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04368 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02309 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49195 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69455 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72939 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64148 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52188 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80776 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68746 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6901 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52304 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70605 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7405 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.78715 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.67752 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69205 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59778 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67865 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86669 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.83739 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.73339 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.71836 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74302 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53034 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71433 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74824 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79537 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68862 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70151 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61036 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68386 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87169 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84098 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74029 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72585 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75178 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53409 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72026 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75235 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79916 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69596 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70727 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61837 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68666 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87388 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84312 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74351 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73169 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75555 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53643 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7233 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75385 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80088 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69972 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71006 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62167 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68774 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87481 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84376 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74493 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73461 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75707 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7234 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75391 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80092 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69993 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62184 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68776 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87481 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8438 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74495 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73479 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75714 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7234 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75391 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80092 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69993 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62184 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68776 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87481 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8438 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74495 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73479 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75714 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67574 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56274 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6308 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56871 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59066 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55263 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6505 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67104 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61269 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.701 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69085 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57709 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65918 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60421 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63437 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58405 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67261 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7113 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74867 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73518 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71758 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65985 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6663 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63047 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68721 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71867 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73859 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78695 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77039 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68348 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75739 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69151 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69335 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67519 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71377 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69096 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75971 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69484 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69836 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68031 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71702 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69096 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75971 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69484 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69836 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68031 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71702 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39958 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25828 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33745 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40554 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29107 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46091 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41924 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.45296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4135 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52438 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48602 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53845 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44431 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62249 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46327 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50502 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62998 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60324 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4705 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57344 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52696 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56882 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.496 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57918 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.59626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64359 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5213 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62126 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56677 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58695 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53589 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57631 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67168 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67041 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66081 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54754 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64073 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59478 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64646 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57872 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61436 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66111 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54883 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64107 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57894 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55642 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57872 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61436 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66111 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54883 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64107 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57894 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55642 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39958 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25828 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33745 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40554 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29107 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50527 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4244 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4951 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52265 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60503 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46871 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60917 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65826 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73092 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62674 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54909 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57996 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69376 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58221 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70941 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69094 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.75346 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61336 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.78715 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75832 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79311 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7118 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.84337 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.8229 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.83408 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7306 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83133 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.87369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.86915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83703 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94028 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.92836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89531 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.87431 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96797 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93482 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9409 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87044 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94779 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55877 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5641 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42987 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34254 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29179 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38749 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24364 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44384 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46627 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4354 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35952 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33607 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31081 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25399 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20772 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30028 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15743 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28613 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.297 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3375 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20484 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2194 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.16104 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.12018 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18824 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08313 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07799 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0544 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05568 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04611 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02766 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04633 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01896 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02438 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00244 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49387 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78649 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8226 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81631 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70082 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62986 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61622 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6606 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62249 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73547 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8331 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82558 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71462 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7423 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63983 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67628 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7767 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81346 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8344 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82777 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71946 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74807 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64856 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64372 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68452 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83156 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83017 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82893 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72191 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75053 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65207 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64673 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68774 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64646 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83159 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82897 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72227 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7506 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65219 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64699 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68786 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-1024-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-20T14:51:03Z", "is_anonymous": true, "revision": "0f19bb26361a149e66b99d3da78acce6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83159 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82897 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72227 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7506 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65219 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64699 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68786 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] } ]