diff --git "a/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json" "b/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json" +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39443 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43764 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33219 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41134 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1626 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4049 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4172 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41463 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18189 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43171 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22723 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49539 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54029 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48161 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4222 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49033 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50965 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55247 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48956 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50449 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27982 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53308 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5736 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50804 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46947 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52818 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23542 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1579 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20868 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10253 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27113 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3343 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29009 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11703 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.365 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25535 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13407 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34945 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38173 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27745 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34919 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15077 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41425 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39721 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29932 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37088 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1531 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41631 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3984 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37324 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15494 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38279 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41775 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39929 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30397 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3748 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23542 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1579 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20868 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12376 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37658 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39323 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27365 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3403 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45491 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45503 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33433 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21588 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55108 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52467 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48863 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65524 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.64709 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.85887 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.92662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.89797 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.82304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.84297 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.83665 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12475 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31908 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24669 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2853 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10017 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24399 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24312 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.18271 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22496 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17026 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11527 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.13167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12161 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.14698 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02612 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05084 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03083 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03735 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04233 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00219 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00322 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00279 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21377 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4455 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22329 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49803 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4547 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46194 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52935 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58127 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4618 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23826 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5128 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5866 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46649 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51329 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47801 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54329 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23996 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51358 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58723 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46717 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47837 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49587 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42439 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48355 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42668 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51017 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5429 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53283 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56982 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58417 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62074 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66924 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61975 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64357 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59627 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59137 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.2649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.39104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40023 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45649 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42646 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47135 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48106 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47739 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48926 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48019 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52281 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40873 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49089 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.43947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44221 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35221 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56225 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62651 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59622 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.76013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.82163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78577 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.79583 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.92864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.82285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.86968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.73722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.85944 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.98759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.98859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.97369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.97569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32168 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18742 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.23333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1253 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.16339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.14594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.04905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.03961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01719 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00419 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5754 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62455 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56239 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45649 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47135 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48106 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5933 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48926 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.649 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64924 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49089 - } - ] - } -] \ No newline at end of file