diff --git "a/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json" "b/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json" +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47296 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36028 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12606 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39412 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51965 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44388 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2434 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44515 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30595 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35347 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13669 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34053 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40508 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45655 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23203 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46516 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5487 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31048 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41578 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36226 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15654 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36177 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43455 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52579 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49311 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24925 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48998 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33291 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44251 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38268 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20584 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61299 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54974 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31454 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52848 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62178 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50791 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43376 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22107 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62738 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56218 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33334 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.405 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52304 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44657 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2592 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53525 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64608 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58325 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37393 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55394 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43961 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54869 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47805 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04444 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17444 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15159 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2735 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32915 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14625 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1774 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42287 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07922 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27221 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28211 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33348 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12339 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37556 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20873 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27721 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25228 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09597 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23204 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34588 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37012 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4075 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45739 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23087 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30889 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27946 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.52355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11368 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26704 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41493 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40124 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16913 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43144 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48231 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24996 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30191 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30096 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38191 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42294 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44687 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37177 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32113 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1338 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4673 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42499 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44788 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27071 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32326 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13575 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30721 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3862 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46889 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42636 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19901 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44868 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5036 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27282 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32508 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04444 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17444 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15159 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2735 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32915 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14625 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1774 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46593 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10087 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23011 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31882 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31852 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37794 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42841 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48219 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25156 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32087 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30648 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14127 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29932 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39693 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4181 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45709 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19279 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50009 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54075 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30681 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37211 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19967 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3922 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49974 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5564 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55682 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5687 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37494 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48602 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44245 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.89342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34608 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60638 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77613 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73133 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69608 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75102 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54248 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6671 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5944 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.98974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.64627 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.85888 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.8741 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.9267 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.9101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.86576 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.91083 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.86578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.82447 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.82332 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47296 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36028 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10587 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45645 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32181 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21219 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26751 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35438 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22396 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24292 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09395 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38728 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24593 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20189 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.25051 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17343 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24789 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19192 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17183 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1723 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27759 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15764 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12537 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12637 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.15277 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.12675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.11213 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.12531 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02663 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05041 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08115 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04371 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04032 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03466 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05053 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.0374 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00333 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00386 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00327 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00474 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00338 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00195 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00262 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00271 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3597 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15806 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47119 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63958 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56922 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35014 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70538 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42249 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54971 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44288 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1698 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48783 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58416 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50637 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43714 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45817 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17907 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48725 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66055 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59315 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37659 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51157 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71917 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44643 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46654 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18618 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49466 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66441 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59806 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38432 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51519 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72205 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45243 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57892 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18698 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49524 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50305 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66463 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59844 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38515 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51566 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72224 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45314 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4726 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18772 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66476 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59865 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38565 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51605 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45358 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57951 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47308 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52678 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44558 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5128 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44678 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56195 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55292 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53207 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49048 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62698 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63632 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62199 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62782 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67211 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31966 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52122 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47932 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53055 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50258 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53941 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50755 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42786 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5397 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36182 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47962 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43216 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44888 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64028 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56002 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.70227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.89906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.78148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.83758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.85346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.77914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.98994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.98948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.99907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45464 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21285 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35799 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24462 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13655 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24675 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15511 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0747 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04349 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.04973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56102 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66171 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57564 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52122 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53055 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59359 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53941 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5397 - } - ] - } -] \ No newline at end of file