eval_results
/
AIR-Bench_24.04
/e5-large-v2
/jina-reranker-v1-tiny-en
/results_20240514121520-0e3cc3d5cb18379cec4158ca352c3627.json
[ | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27873 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49938 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56354 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51494 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43028 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47256 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50615 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25918 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49643 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52848 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4753 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46145 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6033 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43044 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48693 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2654 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50931 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51843 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48982 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48199 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61909 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44037 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49292 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28791 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54155 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5452 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53158 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51243 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64828 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47348 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52487 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33256 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59305 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63673 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58447 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54568 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67388 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51878 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56652 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33857 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59782 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59186 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55111 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67655 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52213 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5697 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33857 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59782 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59186 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55111 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67655 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52213 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5697 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11043 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21876 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.15382 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22592 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26299 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37565 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19852 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24631 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17188 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3438 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28895 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35458 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38584 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50424 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30004 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3502 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.1981 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39837 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35677 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39789 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42114 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54065 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34033 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38969 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22433 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45115 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43167 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43502 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45027 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56756 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37443 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42913 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24431 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48029 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48416 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45734 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46435 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57941 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39477 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45006 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24524 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48116 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48647 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45855 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46496 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57985 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39527 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45059 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24524 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48116 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48647 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45855 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46496 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57985 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39527 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45059 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11043 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21876 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.15382 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22592 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26299 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37565 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19852 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24631 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20434 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39864 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32817 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40971 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44747 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55995 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35648 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40918 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25853 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49356 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43531 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49596 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52492 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63545 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43984 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48981 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33234 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61156 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58599 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60742 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60884 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71133 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53638 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59205 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46021 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74856 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81632 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.77116 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71787 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78896 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66932 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70578 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48734 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76924 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85327 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80498 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74833 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80083 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68544 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72037 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48734 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76924 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85327 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80498 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74833 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80083 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68544 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72037 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27873 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49938 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56354 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51494 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43028 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47256 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50615 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19952 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37443 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46542 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35325 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28854 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37483 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32236 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16335 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31214 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39756 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27346 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21767 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27226 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25523 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26936 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.11427 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2158 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28916 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17739 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.13804 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16335 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16574 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18079 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03373 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.05654 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.08454 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04616 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03406 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03785 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04285 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0461 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01769 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02897 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04402 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02403 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0175 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01927 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02181 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02346 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00177 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0029 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0044 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0024 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00175 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00193 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00218 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00235 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27873 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49938 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56354 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51494 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43028 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47256 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50615 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33158 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58819 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64673 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.595 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50252 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70981 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55893 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59402 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34401 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60207 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66095 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60798 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51385 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71939 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57155 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60893 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35203 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60975 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66867 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61733 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52007 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72376 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57825 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61641 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35614 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61271 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67233 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62193 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5236 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72555 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58198 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61932 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35645 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61286 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67253 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6222 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52397 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72562 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58216 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61947 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35645 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61286 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67253 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6222 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52397 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72562 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58216 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61947 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52312 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.53453 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61357 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73913 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64225 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.6586 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55135 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.34421 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.38153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.48154 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.49956 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.52876 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54675 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.68299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.55623 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.607 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57776 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59888 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43175 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55083 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44543 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.43123 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.42936 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50234 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.48614 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.48719 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.52487 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55275 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.67531 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56099 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.62084 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.59294 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61221 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44405 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.58608 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.4839 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.48492 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44511 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.53034 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.53897 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.52568 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.57223 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.60067 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.71928 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.60335 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.67076 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64516 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.65819 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.50132 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.63445 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54165 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52364 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.49132 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55414 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63085 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.62448 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65278 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.68994 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.79176 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66085 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70127 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.70741 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58899 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68913 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.59213 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57075 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55483 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60086 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64274 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63989 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66426 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70168 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.79519 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66964 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72693 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70639 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71525 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59839 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69247 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.60089 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.58086 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56963 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60603 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64274 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63989 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66426 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70168 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.79519 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66964 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72693 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70639 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71525 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59839 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69247 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.60089 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.58086 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56963 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60603 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.16878 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.15153 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.16975 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20865 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.26504 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.26665 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30797 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30894 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.35497 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.1878 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.28911 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.25448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.27522 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.21327 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.38153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.30501 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.29119 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.3166 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.36302 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.46125 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.41987 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.48064 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.45957 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.49276 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.30847 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.44633 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.37456 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.38168 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.33008 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.47323 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.36503 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.34818 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.38605 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.42725 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.53969 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.46936 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52901 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.50526 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.53122 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.34925 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.497 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41188 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.41738 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.36686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48869 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.42591 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.4125 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.45903 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.48996 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.61311 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.51419 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.57124 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.54504 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.56658 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.39723 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.53644 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44613 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.43649 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.40366 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.49874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46954 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.46261 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50467 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.53531 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65712 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.54056 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59561 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.56972 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58848 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43361 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55833 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46363 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45084 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.42857 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50943 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47184 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.46582 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50671 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.53739 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65784 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5422 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59617 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57047 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58992 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43519 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55889 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46488 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.452 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.43066 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50987 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47184 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.46582 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50671 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.53739 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65784 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5422 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59617 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57047 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58992 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43519 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55889 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46488 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.452 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.43066 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50987 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.16878 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.15153 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.16975 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20865 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.26504 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.26665 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30797 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30894 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.35497 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.1878 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.28911 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.25448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.27522 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.21327 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.38153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.34751 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.33228 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.35203 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.40601 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.50781 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.47148 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.54727 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.51511 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.53997 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.36771 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.53578 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46488 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.49431 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.38143 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.58635 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.45776 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.43496 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.46337 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.51687 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62537 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.55765 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.63758 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.60406 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61838 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45649 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64806 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56599 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.61128 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.45511 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.65462 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61104 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.58027 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.63697 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65684 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76975 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66826 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75942 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73408 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72286 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5925 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.75895 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.71158 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.71662 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57319 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.72691 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.87554 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.85215 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.85035 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.90778 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.95837 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.83916 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.91907 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.90701 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.87036 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.86752 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.94428 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.89156 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.89565 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.78393 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.93173 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92764 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91731 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.90208 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.96154 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.87796 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.93844 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.93313 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90479 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.91195 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.96014 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.93701 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.95252 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.85893 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96386 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92764 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91731 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.90208 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.96154 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.87796 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.93844 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.93313 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90479 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.91195 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.96014 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.93701 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.95252 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.85893 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96386 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52312 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.53453 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61357 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73913 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64225 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.6586 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55135 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.34421 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.38153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.40944 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.44144 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.45661 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.45821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.56159 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.41468 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.43662 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.40523 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.39247 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.33515 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.36847 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.27505 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.21958 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.31559 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.19545 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.33815 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.36216 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.38639 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.37227 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.4538 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.31667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.32507 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30196 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.29086 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.26612 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.28432 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.20982 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.16973 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.23922 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.13092 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.23613 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.25345 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.27544 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25369 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.30054 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.20565 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.2031 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.19188 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.1828 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.18716 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.17838 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.13773 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.10237 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.15686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.07269 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.06855 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.07604 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.07609 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.07145 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.07777 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.05405 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.05054 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.04952 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.04661 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0553 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04481 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.03534 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02653 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.04275 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01863 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.03592 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.0403 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.03953 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03726 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.03943 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.02821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.02572 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02532 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02435 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.02278 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.0185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01404 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02291 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00964 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00359 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00403 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00395 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00373 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.00394 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00282 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00257 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00253 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00244 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00228 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.0014 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00229 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52312 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.53754 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61357 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.74185 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.59226 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64225 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.6586 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55135 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.34421 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.38153 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61127 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.61762 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65631 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69371 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.81476 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66518 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73192 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70775 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72805 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.54508 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.65225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5092 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45895 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.53782 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.47323 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.625 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63383 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66889 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70639 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.82183 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67827 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73981 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71839 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74028 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.56107 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.66955 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52853 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.48343 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54748 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48869 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63764 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64226 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6807 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71173 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.82519 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.68382 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.74693 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72665 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74631 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57092 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.6754 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54393 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.49583 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.5581 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.49865 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64333 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64674 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6837 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.7162 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.82708 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.68738 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.74978 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72925 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.7489 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57872 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68023 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54921 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50312 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56458 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50933 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64357 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64705 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.684 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71659 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.82713 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.68769 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75002 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72943 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74908 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5791 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68031 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54947 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50376 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50978 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "e5-large-v2", | |
"retrieval_model_link": "https://huggingface.co/intfloat/e5-large-v2", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T12:15:20Z", | |
"is_anonymous": false, | |
"revision": "0e3cc3d5cb18379cec4158ca352c3627" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64357 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64705 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.684 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.71659 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.82713 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.68769 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75002 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72943 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74908 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5791 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68031 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54947 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50376 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50978 | |
} | |
] | |
} | |
] |