diff --git "a/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json" "b/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json" +++ /dev/null @@ -1,4832 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52988 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58987 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4444 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40911 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53252 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59469 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41673 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55973 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61666 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45963 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44407 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60276 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65236 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50271 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61315 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66114 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53918 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67717 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56501 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54211 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20417 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22353 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42136 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49708 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29982 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44642 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52164 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32992 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54066 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36265 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35845 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48563 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55483 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39009 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48727 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55628 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39299 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48863 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38581 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20417 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22353 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4647 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53876 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34733 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52194 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59091 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41455 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65024 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49125 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50021 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72615 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.672 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67118 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.89006 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.89366 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.87492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.86994 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35263 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33452 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27163 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23681 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24412 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21406 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.14256 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17207 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.14417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03592 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0509 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04294 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00246 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0022 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00333 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00286 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68989 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71724 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51631 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70068 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72485 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59113 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53054 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70634 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72893 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59903 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53967 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70887 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7317 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54571 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70918 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60408 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54616 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70936 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73214 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60433 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54644 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52127 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5273 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52215 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55547 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58576 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65253 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6326 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6362 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62376 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62771 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63166 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31826 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41942 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36777 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51299 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48141 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52573 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53424 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31826 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39548 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61446 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49371 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5141 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62534 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64496 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.80373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7751 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82096 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.99389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.98896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.99593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99911 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44576 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20482 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24731 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13655 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07751 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05426 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67227 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51299 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68017 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52573 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68512 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65938 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53424 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68707 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53445 - } - ] - } -] \ No newline at end of file