diff --git "a/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json" "b/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json" deleted file mode 100644--- "a/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json" +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36404 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12188 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4337 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37397 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33664 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32765 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12906 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30928 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39053 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34001 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3313 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14799 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33739 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41421 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36872 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35438 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19251 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39868 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4547 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42794 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40864 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54153 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44426 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42322 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24263 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44423 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56579 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48791 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47607 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45158 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.12939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15599 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19684 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3225 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23046 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22526 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08993 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35711 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33843 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24966 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10692 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25932 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35722 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27911 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27238 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12293 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28521 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40343 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37198 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30028 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29226 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12501 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40561 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37348 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29465 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12689 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2897 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29646 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.12939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15599 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23921 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36171 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27644 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12835 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31421 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4434 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33542 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40221 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48913 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42245 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41502 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70104 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62463 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60569 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57466 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.59566 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.80989 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.92879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.90194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.83965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.86143 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.79482 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36404 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0992 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21747 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31713 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22082 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24687 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2316 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08673 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2403 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.16568 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.21031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18925 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18219 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.13569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15056 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.10461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.12536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12571 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.12209 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02408 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04323 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0418 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.02882 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03821 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03766 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00208 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00302 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0027 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00188 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00266 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41767 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45715 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41418 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17346 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39051 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56963 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4317 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47061 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42961 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18122 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40086 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43902 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44056 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18771 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58374 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44719 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18842 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5842 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4444 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48724 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44771 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40821 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58447 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44487 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48759 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4481 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45657 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51673 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45812 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54525 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5052 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57515 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59549 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61019 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61814 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62534 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62371 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19579 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.23998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38163 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4913 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39983 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5197 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48325 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.527 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4522 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52774 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52801 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19579 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.23998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36409 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32431 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42887 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58824 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56836 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.71761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.83876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.85634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79981 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.84284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91165 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.98687 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.98456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.97857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.9965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19679 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.38967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.22688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.24084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.16696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.17099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04188 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01823 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65365 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59882 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4913 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61453 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64445 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5197 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66433 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.527 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52774 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52801 - } - ] - } -] \ No newline at end of file