eval_results
/
AIR-Bench_24.04
/jina-embeddings-v2-base-en
/bge-reranker-v2-m3
/results_20240514045424-321c39a799a4fefd4287acbb6689e46d.json
[ | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58736 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74869 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62332 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52871 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73075 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54131 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6116 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27362 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54651 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69748 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57136 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53986 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65814 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49074 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55507 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2754 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53838 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67711 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57821 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5493 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66313 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4949 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54715 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28656 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54852 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69087 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61098 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56456 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67803 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5262 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56054 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30802 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57279 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7344 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63879 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57986 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68736 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55628 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5802 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31014 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57395 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73604 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64017 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58094 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68799 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55764 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58114 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31014 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57395 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73604 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64017 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58094 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68799 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55764 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58114 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11346 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25114 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2069 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27356 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3296 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42514 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22673 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28571 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18194 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38157 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39812 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43289 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.459 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5563 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34673 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40227 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21111 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43181 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49522 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4808 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4918 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59083 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39181 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44516 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23565 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47302 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59108 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5171 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51327 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60944 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42818 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4779 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24669 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48825 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62383 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53122 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52107 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61417 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44264 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48939 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.247 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4885 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62422 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53147 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52117 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61426 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44285 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48956 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.247 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4885 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62422 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53147 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52117 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61426 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44285 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48956 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11346 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25114 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2069 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27356 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3296 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42514 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22673 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28571 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20386 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41509 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42842 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4858 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51012 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59157 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39979 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44152 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25487 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49047 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55597 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57401 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57067 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65094 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48343 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51188 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30532 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56851 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70845 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67039 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62093 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69661 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58209 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58076 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36601 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63158 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81242 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.75159 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66929 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72422 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66964 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63126 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37618 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63614 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81887 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.75763 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67565 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72745 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67634 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6352 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37618 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63614 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81887 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.75763 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67565 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72745 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67634 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6352 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58736 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74869 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62332 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52871 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73075 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54131 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6116 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2171 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41326 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61613 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42804 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33186 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40687 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37223 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39445 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17501 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32429 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52091 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32138 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24063 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28767 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28816 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30135 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11438 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20669 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3595 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19684 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.14132 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16155 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18174 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18547 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02796 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04788 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0844 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04511 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03119 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03424 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04268 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04197 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01424 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02413 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04248 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02274 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01567 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01719 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02149 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02112 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00142 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00241 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00425 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00227 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00157 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00172 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00215 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00211 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58736 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74885 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62332 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52871 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73075 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54131 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6116 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34249 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64137 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.8015 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69459 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58475 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.77688 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62026 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67116 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35027 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64893 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80864 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70461 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59113 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78142 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62996 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67904 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35325 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65332 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81198 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71099 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59394 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78356 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63573 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68236 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35531 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65466 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81308 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71226 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59544 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7842 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63792 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68346 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35541 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65468 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81311 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71231 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59553 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78423 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63799 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68348 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35541 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65468 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81311 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71231 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59553 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78423 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63799 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68348 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.73699 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77515 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.80826 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85598 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73389 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71237 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.61749 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62703 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5092 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46291 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57983 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50602 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.68486 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.66488 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.71672 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.72703 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77436 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6231 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.6571 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64771 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.65796 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59341 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62249 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.55932 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52576 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56275 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.64362 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.67437 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.65975 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.70953 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.73374 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76326 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63888 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.67244 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.67849 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.67372 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.60513 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.67176 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.59858 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57131 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.58291 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6654 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.71572 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70295 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.74445 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.78187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80655 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72987 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72369 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71878 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.64624 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71908 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65012 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.61335 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6247 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.67981 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.76086 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.7492 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.7781 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.82008 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85239 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71532 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.76061 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.76508 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74501 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.70529 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.75403 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.67957 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.65194 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6696 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.70657 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.7626 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.75019 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77924 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.82114 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85353 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.76193 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.76587 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74654 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.70737 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.75699 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.68141 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.65681 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6735 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.70925 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.7626 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.75019 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77924 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.82114 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85353 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.76193 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.76587 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74654 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.70737 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.75699 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.68141 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.65681 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6735 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.70925 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.2472 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.21511 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.24549 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.28593 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.31046 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.29176 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.33844 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.35624 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.37581 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.26263 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.35227 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.33653 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.37043 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.27322 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50602 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46665 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.41597 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.46174 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.51699 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.53788 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.47222 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52437 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.52421 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.53846 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44381 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52335 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.47733 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.47935 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44819 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.61178 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.54721 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.51169 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5587 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.60938 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62942 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5442 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.57775 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.58665 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58876 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.50115 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.58686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.51938 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51325 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.49472 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.62403 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61631 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.60373 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.64683 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.68736 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.71385 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58901 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.62885 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.62861 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.62783 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.54752 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62859 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5561 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.53566 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.53296 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63005 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64429 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63421 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67062 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71256 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.74534 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.60998 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64577 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64829 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.64184 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57644 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64433 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56742 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.54811 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55354 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6367 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.6447 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63438 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6709 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71285 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.74562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.61041 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.646 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64839 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.64208 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5769 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64478 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56767 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.54861 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55409 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63696 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.6447 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63438 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6709 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71285 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.74562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.61041 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.646 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64839 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.64208 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5769 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64478 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56767 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.54861 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55409 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63696 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.2472 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.21511 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.24549 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.28593 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.31046 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.29176 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.33844 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.35624 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.37581 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.26263 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.35227 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.33653 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.37043 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.27322 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50602 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.51029 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.45518 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50234 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55159 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.56605 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.51963 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.60087 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57619 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58735 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5046 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60017 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.58717 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57221 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.51902 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.73494 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62714 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.58857 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6426 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.6879 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.69583 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63553 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.69458 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.69542 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.68231 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.60735 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73842 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.6813 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.66815 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.61051 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.78715 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.77008 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.75213 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79369 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.83467 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84043 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.73794 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.82813 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.79942 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.78718 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.71296 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.84774 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.80335 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.78017 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.71466 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.83133 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.89222 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.87646 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.87591 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.93391 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.95494 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85482 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.9151 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.92262 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.86156 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.89283 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.96117 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.90685 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.92458 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.85522 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.94378 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.89872 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.88072 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.88025 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.938 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.95929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.86906 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.92139 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.92692 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.86893 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90128 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97392 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.91656 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.95326 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.87483 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.95984 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.89872 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.88072 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.88025 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.938 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.95929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.86906 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.92139 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.92692 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.86893 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90128 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97392 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.91656 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.95326 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.87483 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.95984 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.73699 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77515 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.80826 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85598 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73389 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71237 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.61749 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62703 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5092 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46291 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57983 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50602 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.58092 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.58559 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.61045 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.60767 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.63134 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.46825 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.4723 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.44911 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.44624 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45993 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.41081 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.33129 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.25915 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.40523 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.24498 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.45838 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.49189 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50237 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49027 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.50707 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.37321 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.34817 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.33333 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.35683 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.32216 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.25092 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.1911 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.3014 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.15743 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.29451 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.33303 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.33669 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.31829 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.33234 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.23125 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.22113 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.21261 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.20323 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.22459 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.19784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.15828 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.11335 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.18711 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.08313 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.06902 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.07682 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.07639 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.07298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.07761 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.05494 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.05042 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.05036 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.04613 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.05667 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04546 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.03595 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02742 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.04538 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01888 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.0348 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.03853 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.0384 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.03899 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.0278 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.02538 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02527 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02325 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.02866 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.02316 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.01816 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01404 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02308 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.0096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00348 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00385 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00384 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00367 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.0039 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00278 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00254 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00253 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00233 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00287 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00232 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00182 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.0014 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00231 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.73699 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77515 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.80826 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.85598 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73389 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71505 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.61749 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62703 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5092 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46291 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57983 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50602 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.79672 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.77628 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.82446 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.85546 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.89946 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.73363 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.78357 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.79318 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.78763 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.71721 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71577 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.63446 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.56133 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.67087 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.61178 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.80467 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.78453 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.83304 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.86475 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.90448 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.74137 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.78892 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.80593 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79637 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.72486 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.64811 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57928 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.68137 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.62403 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.80899 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.78922 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.8354 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.86659 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.90563 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.74687 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79308 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.80895 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79885 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.72748 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73555 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65411 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.59152 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.68539 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63005 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.81118 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.79065 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.83634 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.86756 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.90648 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.7491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79404 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.81139 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79962 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.73078 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73866 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65746 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.59744 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.68932 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6367 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.81118 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.79065 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.83634 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.86756 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.90648 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.74926 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79407 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.81142 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79967 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.73083 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73876 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.6575 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.59785 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6895 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63696 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "jina-embeddings-v2-base-en", | |
"retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", | |
"reranking_model": "bge-reranker-v2-m3", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T04:54:24Z", | |
"is_anonymous": false, | |
"revision": "321c39a799a4fefd4287acbb6689e46d" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.81118 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.79065 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.83634 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.86756 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.90648 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.74926 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79407 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.81142 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79967 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.73083 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73876 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.6575 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.59785 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6895 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63696 | |
} | |
] | |
} | |
] |