diff --git "a/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json" "b/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json" +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43365 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39586 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60437 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69404 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42371 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50556 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44798 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70918 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45717 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40462 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60455 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56914 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68644 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44648 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49682 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46975 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47774 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55181 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42291 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63252 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71307 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48912 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50118 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76115 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51505 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67798 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66007 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7465 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54449 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53641 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54983 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70103 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6149 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54196 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54196 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19764 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19442 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.183 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26759 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19092 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27267 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36195 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38671 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39048 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30345 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27774 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37571 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56952 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31326 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43582 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38291 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3177 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44852 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45212 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49844 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35366 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34439 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41279 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6326 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37035 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51394 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35534 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52528 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61404 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39433 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40909 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44382 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67339 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41408 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58037 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4882 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36667 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54285 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53653 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63832 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41541 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42535 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45744 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68118 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42922 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59483 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45818 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50441 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45818 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50441 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19764 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19442 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.183 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26759 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19092 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30602 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40673 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43358 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4294 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36153 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32283 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42804 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.621 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37682 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48712 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44589 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53827 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57615 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46454 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50357 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7276 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48735 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55178 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.87861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45651 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66817 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75358 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58058 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55409 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59355 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8152 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5978 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66091 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52959 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74053 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8398 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.759 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63164 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71445 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85313 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70698 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.79045 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43365 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30354 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52937 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43432 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62309 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4578 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27865 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48104 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36183 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51178 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39738 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46531 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24964 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45068 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35985 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54214 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21653 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36581 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29994 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32665 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16369 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30124 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24542 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38555 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17627 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26177 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13817 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21894 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19359 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27415 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21201 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03808 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0583 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08651 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04609 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06006 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03401 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03884 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04551 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06088 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04943 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43309 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72147 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48686 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.73699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63548 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79008 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52431 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.65457 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4837 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84783 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57135 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62908 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49649 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79819 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.66704 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49455 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8525 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58596 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76994 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64431 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49955 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74979 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65374 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80118 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54952 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.67101 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50219 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85415 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59253 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65043 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50208 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75065 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65657 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55551 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.67204 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50668 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65313 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75072 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80226 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6721 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75072 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80226 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6721 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3431 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55646 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5478 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5686 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36436 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58774 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60883 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68789 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51537 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6373 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64509 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64509 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.37945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46189 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24856 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54003 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5489 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54116 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55548 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56835 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55615 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56835 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55615 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38133 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73106 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.79668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.9109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82889 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.91126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43449 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21821 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14618 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.1527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07952 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0524 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67921 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44859 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53922 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70119 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54877 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4703 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55541 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5561 - } - ] - } -] \ No newline at end of file