[ { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6233 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73841 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60574 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53943 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74464 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.628 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30211 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59496 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68791 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55991 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55685 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68464 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5014 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5779 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59347 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66897 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57111 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57086 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69042 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50408 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57341 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31344 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61185 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68308 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60423 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59313 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70723 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.528 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58825 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33625 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64365 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7303 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6317 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6117 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71904 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55009 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60699 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33825 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64521 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7318 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63253 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6129 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55098 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60797 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33825 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64521 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7318 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63253 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6129 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55098 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60797 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20543 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26652 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34042 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43591 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24112 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30377 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20453 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42406 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39313 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42422 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47792 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58312 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36009 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42479 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23304 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4828 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48904 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47439 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51515 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61975 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40369 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46981 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25918 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53535 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58292 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51162 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54281 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64097 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43466 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50416 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.271 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55615 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61872 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5254 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55256 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64688 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44605 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51617 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27128 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61913 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52554 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55271 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.647 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44619 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51632 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27128 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61913 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52554 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55271 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.647 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44619 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51632 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13148 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.20543 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26652 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34042 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43591 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24112 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30377 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23011 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46081 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42399 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47639 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52658 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62254 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40921 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46737 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27486 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54736 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55051 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57048 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59355 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68355 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48997 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54239 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33288 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64379 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70188 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66539 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65917 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57049 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61484 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39541 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7244 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81264 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74512 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.71701 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76844 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63225 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66064 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40511 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73107 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81808 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74896 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.72375 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77145 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63655 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66487 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40511 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73107 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81808 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74896 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.72375 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77145 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63655 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66487 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6233 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73841 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60574 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53943 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74464 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.628 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23487 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44713 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60648 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42043 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34259 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42656 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.373 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40676 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18567 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35638 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51359 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31974 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.253 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30087 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28677 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31189 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12099 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23377 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35439 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19684 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15256 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17047 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17643 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19192 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05558 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08458 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04517 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03411 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03655 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04017 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04315 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01515 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02804 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04257 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02268 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01715 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01836 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02019 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02171 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00152 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0028 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00426 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00227 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00171 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00184 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00202 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00217 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6233 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73841 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60574 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53943 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74406 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.628 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37803 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68484 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79369 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67946 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59706 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79126 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63037 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69313 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38358 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69255 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80061 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69047 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60387 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79551 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63984 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70127 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38763 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69682 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80371 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69542 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60715 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79783 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6442 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70394 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38971 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6983 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80485 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69686 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60895 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79872 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64563 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70467 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69836 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80487 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69687 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60904 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79874 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64566 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70472 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.69836 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80487 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69687 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60904 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79874 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64566 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70472 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71471 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59836 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59384 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69416 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66743 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70704 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62503 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67258 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57268 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62584 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56061 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52267 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57677 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63138 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69087 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66173 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68018 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70123 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59571 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66692 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60742 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57579 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.603 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66439 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72845 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70639 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76637 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66968 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7442 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7406 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64024 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71617 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65899 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61529 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63851 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68899 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76466 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75328 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8593 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77088 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.76906 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68546 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74585 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68602 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67393 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70639 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76644 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86023 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71273 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77122 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68676 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74826 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68793 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64909 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67638 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70843 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76644 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86023 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71273 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77122 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68676 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74826 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68793 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64909 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67638 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70843 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24693 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21981 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.2704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.32041 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35471 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38844 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25371 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35132 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.351 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35485 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28863 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47142 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41995 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56383 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42622 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52537 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48524 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47354 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46154 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60107 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56112 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51371 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55595 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64241 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59027 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61619 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49182 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58455 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53036 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51113 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51512 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61934 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62792 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6072 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63743 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58362 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65283 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53981 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62745 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56736 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53167 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54926 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62945 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65117 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6374 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60279 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65985 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66823 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56194 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64062 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57833 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54075 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5663 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63388 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65142 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66163 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66857 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56219 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64104 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57857 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54118 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56657 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63409 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65142 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66163 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66857 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56219 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64104 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57857 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54118 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56657 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63409 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24693 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21981 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.24657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.2704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.32041 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35471 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38844 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25371 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35132 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.351 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35485 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28863 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52111 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45767 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54958 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52015 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60364 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59624 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.611 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48922 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59963 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57386 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57839 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52752 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71888 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58808 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70193 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70863 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60458 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7236 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68708 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69436 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63185 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7992 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78396 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75534 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80954 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72499 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79881 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72001 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.83614 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.80723 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.79921 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.72262 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.8755 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87945 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.88174 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.85492 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.90452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91748 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87964 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.85822 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.93403 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.90066 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.91419 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.8313 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94779 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.88544 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.88452 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.85766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.90875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.92491 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.88967 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86401 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.94443 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.91089 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93744 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84483 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.88544 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.88452 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.85766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.90875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.92491 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.88967 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86401 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.94443 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.91089 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93744 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84483 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71471 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59836 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59384 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60059 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64402 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46872 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4408 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41261 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32515 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26113 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41457 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23963 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47399 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.49189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49704 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34892 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35683 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31892 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25031 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19585 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31597 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15984 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.30202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3287 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20968 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22732 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19676 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15828 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11632 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08755 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06884 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0776 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05405 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05448 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03577 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02694 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04499 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01896 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0346 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03892 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02762 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02529 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02414 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0274 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02249 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01807 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01374 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02269 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0096 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00346 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00389 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00377 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00241 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00274 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00225 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00181 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00137 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00227 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00096 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71471 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59836 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59384 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81065 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84267 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81407 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69672 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71937 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6365 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55292 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68021 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60107 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81938 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91313 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82442 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70792 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73315 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65613 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57562 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69393 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61934 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81792 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80316 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7109 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73671 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6634 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58689 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69808 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62945 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82299 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75027 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81876 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82651 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71372 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73956 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66543 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59102 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70032 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63388 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82655 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71377 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73961 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70048 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63409 } ] }, { "config": { "retrieval_model": "e5-small-v2", "retrieval_model_link": "https://huggingface.co/intfloat/e5-small-v2", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T12:22:31Z", "is_anonymous": false, "revision": "814f7cc96be926fd34fa568217bf233b" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82655 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71377 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73961 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70048 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63409 } ] } ]