[ { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80507 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62169 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63259 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74078 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64888 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60984 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49584 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54448 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79571 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74059 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54304 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61746 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.73035 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30335 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55427 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5945 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68912 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56792 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56963 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56386 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68939 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67477 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48841 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60342 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56364 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.73911 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30232 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54412 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5919 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67153 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52942 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5823 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40533 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58026 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69715 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6811 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4915 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59771 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5608 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.78518 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31586 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56794 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60912 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68688 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53419 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61923 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42064 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60172 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7222 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69651 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51488 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61952 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5757 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.81786 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34048 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60382 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63972 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73644 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58302 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6506 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45473 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62065 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73784 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70819 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53725 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64807 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59231 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.81859 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34213 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60499 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64185 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73818 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58484 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65187 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45601 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62168 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70889 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53805 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64899 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59295 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.81859 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34213 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60499 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64185 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73818 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58484 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65187 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45601 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62168 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70889 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53805 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64899 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59295 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33777 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1278 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18778 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28088 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20615 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13824 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27127 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12948 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34224 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41162 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43231 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23075 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26029 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30098 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.54375 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20197 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3286 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42363 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39312 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27454 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43179 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48321 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55777 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57425 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34735 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41211 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41606 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.62911 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23193 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39863 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4819 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49008 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34516 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48364 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27703 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52222 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60603 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61057 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3896 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47215 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4612 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.69883 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2587 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4615 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53311 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58573 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41042 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52284 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31829 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54989 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63768 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63077 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42063 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52293 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49485 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.71922 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27173 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48439 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55334 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62315 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53899 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3376 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55968 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64701 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63664 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43206 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54109 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50547 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.71936 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27198 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48464 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55376 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62363 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44089 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53923 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33783 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55981 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64711 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63675 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54128 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5056 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.71936 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27198 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48464 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55376 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62363 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44089 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53923 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33783 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55981 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64711 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63675 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54128 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5056 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33777 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1278 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18778 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28088 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20615 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13824 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27127 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12948 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34224 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41162 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43231 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23075 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26029 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30098 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.58148 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22995 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36343 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45873 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42496 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30411 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48802 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26566 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53521 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59577 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61027 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39694 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45629 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45607 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.7091 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27894 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47056 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54419 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55346 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40553 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58571 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33567 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60787 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67978 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67224 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47838 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54997 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53077 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.84617 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33619 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59217 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63732 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70679 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69003 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42429 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67057 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75021 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71919 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55551 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65033 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60214 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.93848 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40404 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.68155 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71334 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82311 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64375 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51007 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73057 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79133 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75331 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61822 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72229 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64336 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94178 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41164 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.68613 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82931 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78533 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51552 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75643 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72594 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64611 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94178 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41164 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.68613 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82931 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78533 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51552 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75643 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72594 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64611 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80507 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62169 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63259 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74078 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64888 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60984 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49584 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54448 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79571 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74059 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54304 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61746 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.56222 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23802 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47712 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44506 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60748 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52312 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42824 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38061 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34742 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45821 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42038 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36742 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47257 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3925 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.4457 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19001 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39717 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35328 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51641 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43821 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32607 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30648 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25741 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33651 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29728 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2818 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37398 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30252 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28442 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12449 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26565 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23116 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35775 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29637 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.20182 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20316 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15495 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.19809 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16769 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17377 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24064 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18653 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.0639 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03083 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06258 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05467 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08592 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07327 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04694 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04955 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03459 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04314 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03598 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03964 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05542 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04145 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.03204 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01562 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02765 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04329 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03697 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02363 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02496 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01738 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02166 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01809 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01991 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02786 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02082 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.0032 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00156 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00315 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00277 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00433 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.0037 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00236 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0025 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00174 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00217 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00199 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00279 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00208 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80507 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62169 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63259 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74078 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64941 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60984 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4964 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54448 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79571 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74059 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54304 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61746 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.84949 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38266 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6923 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68928 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79733 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7211 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68844 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57184 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60494 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8372 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78383 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62074 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73133 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67711 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85447 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38971 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70135 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69665 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80403 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73035 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69954 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58192 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61286 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84242 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78826 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63073 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73929 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68476 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85766 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39351 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70657 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7009 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80723 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73432 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70565 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58902 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61561 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84427 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7906 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63495 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74314 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68802 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85908 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39546 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70813 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70232 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80827 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73613 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70719 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59118 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61748 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84457 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79149 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6363 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74445 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68862 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.8591 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39556 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70816 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70238 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80828 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73614 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61754 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8446 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79151 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74447 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68864 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.8591 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39556 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70816 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70238 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80828 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73614 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61754 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8446 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79151 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.74447 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68864 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74194 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61475 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53681 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6809 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67947 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79706 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68841 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57677 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63129 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57416 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5285 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58351 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61785 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67721 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67213 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70679 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78278 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70718 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59381 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67782 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62402 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57933 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60492 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65241 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7223 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71696 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64025 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73087 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67363 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62113 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64288 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67916 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76448 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78271 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77089 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75102 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77864 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68814 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76265 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70689 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65307 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68442 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69488 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76356 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76686 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78415 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77184 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78122 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69005 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76612 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70885 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65707 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68814 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6975 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76356 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76686 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78415 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77184 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78122 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69005 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76612 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70885 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65707 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68814 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6975 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23831 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22192 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24731 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.27448 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3205 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38978 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26172 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35483 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35944 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35485 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28708 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46241 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46212 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5176 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53637 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56626 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43085 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53115 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49679 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47676 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46618 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58835 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6089 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57678 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62155 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49173 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59348 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54517 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51249 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51673 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60743 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62137 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64807 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73601 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58005 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65874 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5402 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.639 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58118 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53475 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55267 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61816 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64636 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64572 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6761 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71072 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65968 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67447 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56347 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65356 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59436 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54524 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57265 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62184 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71086 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67489 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5639 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65408 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5946 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57317 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62208 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71086 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67489 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5639 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65408 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5946 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57317 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62208 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23831 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22192 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24731 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.27448 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3205 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38978 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26172 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35483 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35944 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35485 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28708 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50907 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49632 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61515 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4912 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60539 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58971 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59174 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53601 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70281 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59896 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63435 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68684 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61884 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70747 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68389 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71988 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59752 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7436 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70927 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.70376 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63232 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.78715 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76814 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78528 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83067 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81587 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71434 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.86531 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82645 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.8138 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.72906 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.87149 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.89605 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.88521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96385 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84188 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.89623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90338 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86176 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94479 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93497 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.85501 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93976 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.90198 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.91299 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86966 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98495 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95501 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95722 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87462 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.90198 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.91299 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86966 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98495 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95501 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95722 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87462 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74194 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61475 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53681 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5986 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60355 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45752 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47133 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4408 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33231 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26607 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4211 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23427 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4991 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49086 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35161 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34973 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3227 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25767 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19763 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31653 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15743 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33669 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31475 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2121 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22486 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.20135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.16104 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.1181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19216 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08715 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07886 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07781 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05482 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04855 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05459 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04578 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03712 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0276 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04616 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0188 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03914 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03921 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02457 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02757 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01874 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01409 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00956 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00368 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00279 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00248 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00246 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00276 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00187 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00141 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00234 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00096 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77219 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74194 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61475 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53681 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49398 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81953 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84513 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80094 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81228 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70401 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72252 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65031 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55638 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68721 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58835 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79889 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80601 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85162 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.8084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79556 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82276 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71535 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73766 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66979 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57774 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69771 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60743 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80373 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83117 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85347 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74187 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.8128 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71969 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74272 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58958 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70243 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61816 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81019 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85552 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74356 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79987 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82561 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72261 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74507 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67856 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59338 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70564 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62184 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80555 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83268 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85552 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8257 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72266 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74521 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59367 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70581 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62208 } ] }, { "config": { "retrieval_model": "multilingual-e5-base", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T05:01:36Z", "is_anonymous": false, "revision": "e4450bf6752c918fb11938dc20913b22" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80555 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83268 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85552 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8257 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72266 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74521 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59367 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70581 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62208 } ] } ]