eval_results
/
AIR-Bench_24.04
/multilingual-e5-base
/mmarco-mMiniLMv2-L12-H384-v1
/results_20240514050354-591813ec54380c491db502d768cc341e.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71861 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24986 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49146 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52726 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67416 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58164 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5577 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41607 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46688 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64622 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6051 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48296 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51753 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50264 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64861 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2416 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46125 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52745 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63702 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50677 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52643 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36498 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48733 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57894 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58207 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4573 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48918 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48282 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66205 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24535 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45767 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5299 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62834 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47441 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54987 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35146 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50845 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59693 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59554 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46163 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4927 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48863 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71365 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26173 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48507 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55487 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65398 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48198 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58891 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36459 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53546 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6319 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62091 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48915 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52083 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50967 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75826 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29221 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.537 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59034 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70278 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54155 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61722 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40874 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56099 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65914 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64045 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51148 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56689 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53425 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76177 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29716 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54254 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59431 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62193 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4141 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56518 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66256 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64243 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51294 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57199 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5368 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76177 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29716 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54254 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59431 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62193 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4141 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56518 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66256 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64243 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51294 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57199 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5368 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28892 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0832 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.14341 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22019 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17731 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12058 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23081 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.10381 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27598 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33005 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34565 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18949 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.19438 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23177 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4636 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.14668 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26042 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35873 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23608 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38629 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.18717 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40274 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45332 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47813 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31173 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31615 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33941 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5442 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1747 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31947 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41297 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44343 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29587 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4471 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.228 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44377 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5009 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51462 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35704 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36733 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38365 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61452 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20198 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37486 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46891 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54671 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35441 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4905 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26423 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47435 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53583 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53956 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39244 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41481 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41924 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63917 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21593 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40299 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49073 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58171 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38748 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50342 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28465 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48558 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54818 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54843 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40277 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43868 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43209 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6397 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21667 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40403 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49142 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58265 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38875 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50411 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28562 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48603 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54874 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54869 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40299 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43968 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43251 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6397 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21667 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40403 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49142 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58265 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38875 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50411 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28562 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48603 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54874 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54869 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40299 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43968 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43251 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28892 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0832 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.14341 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22019 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17731 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.12058 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23081 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.10381 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27598 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33005 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34565 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18949 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.19438 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23177 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5121 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18064 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.30556 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41236 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38663 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26889 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44679 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.22204 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46455 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50817 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54325 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37352 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37208 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39781 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6424 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23387 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40498 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50101 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52176 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.36412 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56207 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29553 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54553 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6039 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61581 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45595 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46755 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48213 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79233 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29717 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52574 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60979 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69113 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48088 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67152 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37524 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62314 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6964 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68536 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54597 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58007 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56533 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.92396 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38944 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66412 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70431 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81165 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62701 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76234 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49446 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71212 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77829 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74627 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.615 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7049 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63478 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.94178 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41164 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68613 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72249 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82938 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65031 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78533 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51582 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73631 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79398 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75643 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62217 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72594 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64611 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.94178 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41164 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68613 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72249 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82938 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65031 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78533 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51582 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73631 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79398 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75643 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62217 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72594 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64611 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71861 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24986 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49146 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52726 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67416 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58164 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5577 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41607 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46688 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64622 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6051 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48296 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51753 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50264 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50496 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20248 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4064 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40913 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57145 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46727 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40949 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3265 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31272 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39011 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37309 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36029 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39156 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34896 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16768 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34496 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33135 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49777 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39541 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32712 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27258 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23937 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29684 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27122 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2825 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31907 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27709 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26977 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11466 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23789 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22503 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35654 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27113 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20504 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.18188 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.14839 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.18374 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15987 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17643 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.21266 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17698 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.06337 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02991 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.06118 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05426 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.07179 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04622 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04818 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03409 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04244 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03575 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03949 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05412 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04096 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03204 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01562 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03148 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02765 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04329 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03697 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02363 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02497 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01738 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02166 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01809 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01991 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02786 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02082 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0032 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00156 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00315 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00277 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00433 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0037 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00236 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0025 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00174 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00217 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00181 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00199 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00279 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00208 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71916 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24986 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49146 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52788 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67432 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58164 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5577 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41717 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46625 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64681 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6051 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48296 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51872 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50205 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77863 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31085 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58702 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61565 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74885 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66711 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64519 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50332 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53638 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71848 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68452 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57895 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.612 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58973 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78742 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32023 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60154 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62529 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75783 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6801 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65928 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51753 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54446 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73057 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69315 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58848 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62546 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60209 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79147 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32477 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6088 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63051 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76131 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68502 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66487 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52336 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5489 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73481 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69749 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59346 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63239 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6061 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79377 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3278 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61115 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63247 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76274 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68706 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.667 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52708 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55164 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73655 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6991 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59558 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63481 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60792 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79394 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32801 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61135 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63261 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76284 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68719 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6672 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52722 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55194 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73667 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6992 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59564 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63494 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60803 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79394 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32801 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61135 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63261 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76284 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68719 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6672 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52722 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55194 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73667 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6992 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59564 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63494 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60803 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66474 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.68468 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69527 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72271 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.80707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67606 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.67227 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72581 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45092 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40653 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52941 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.6177 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.61153 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64967 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67645 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74128 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59866 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.61955 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62359 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66754 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57759 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.59845 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.4755 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46196 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51296 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57496 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62362 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.61918 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64592 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.68251 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74502 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60859 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64955 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66169 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.67729 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59354 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.64385 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.524 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50804 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54309 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.60384 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68567 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67584 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.68636 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.73894 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.79733 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.6521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.71115 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71735 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73341 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.64655 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70923 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55446 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58997 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63139 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.72368 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.72804 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.73278 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78243 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83519 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.68988 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73992 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74122 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76121 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68245 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73958 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63832 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60129 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.6324 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.65735 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.72817 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73218 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.73698 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78576 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83843 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.69406 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74217 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74415 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76501 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68794 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74468 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64132 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60883 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63984 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.66203 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.72817 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73218 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.73698 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78576 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83843 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.69406 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74217 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74415 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76501 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68794 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74468 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64132 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60883 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63984 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.66203 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21177 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.19915 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20384 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.23935 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.28925 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32377 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.37435 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.25562 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.33781 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.28628 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.32221 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.24394 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.40443 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.36488 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.39622 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.45776 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5015 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.44509 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.4859 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.49759 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.54088 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.41872 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.49835 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.40472 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.41716 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.40279 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54752 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.49023 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.46238 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.49325 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.54878 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.60634 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.50913 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.54929 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.56559 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59065 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.48472 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.55971 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44975 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.45031 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45423 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.56399 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.57945 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56852 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.58712 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.63535 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.70054 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.56569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60497 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61671 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.641 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54053 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61132 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.49588 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.47488 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.49716 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57476 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60001 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.59809 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.61537 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66239 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7255 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.5841 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.62009 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62949 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65461 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5585 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62461 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51192 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48819 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51472 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58045 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60076 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.5988 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.61608 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66304 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58478 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62991 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65515 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55928 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62543 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51227 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48896 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5157 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58089 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60076 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.5988 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.61608 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66304 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58478 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62991 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65515 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55928 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62543 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51227 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48896 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5157 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58089 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21177 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.19915 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20384 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.23935 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.28925 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32377 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.37435 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.25562 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.33781 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.28628 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.32221 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.24394 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.45232 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.4031 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.43837 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.51008 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.54185 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.49158 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.55644 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.56403 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59002 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.48078 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.5715 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.48186 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50519 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.46467 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.65462 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.58322 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.55214 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57893 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.64477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69317 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59776 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67354 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.69094 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6807 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59483 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70356 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.6041 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60435 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.57393 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.72289 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.7662 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73937 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.74069 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81072 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85176 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7136 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.81436 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.81903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80943 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73104 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.85533 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.77865 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.72799 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.68953 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.81124 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.88107 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.88797 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.87224 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.93047 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.95312 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.83684 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.90074 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.88952 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.89617 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.84192 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.96009 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.93865 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.91271 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.8354 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.92771 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.90198 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.90812 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.89126 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.94537 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.85765 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.91299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.90463 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.91588 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.86966 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98495 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.95501 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.95722 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.87462 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.95582 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.90198 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.90812 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.89126 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.94537 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.85765 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.91299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.90463 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.91588 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.86966 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98495 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.95501 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.95722 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.87462 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.95582 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66474 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.68468 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69527 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72271 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.80707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67606 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.67227 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72581 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45092 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40653 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52941 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.53083 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.53554 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.56903 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.58407 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.61504 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.4623 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.44319 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.44538 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.45789 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.45264 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.4009 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.29039 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.23046 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.38189 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.21821 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.4422 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.46727 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.48047 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.47375 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.50924 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.36548 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.34535 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.35462 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.34032 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.36011 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.31459 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.22822 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.17329 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.2986 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.14458 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.3052 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.33544 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.33107 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.31622 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.34402 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.23631 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.22366 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.22353 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.21586 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.23415 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.20405 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.15491 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.10772 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.19132 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08112 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06867 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07844 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07716 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07274 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07755 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.05476 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.0502 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04913 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04839 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05399 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04551 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03693 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04538 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01855 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03491 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.0397 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03914 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03681 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03921 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02786 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02532 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02485 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02457 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02757 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.0233 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01874 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01409 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02342 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00956 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00349 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00397 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00391 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00368 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00392 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00279 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00253 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00248 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00246 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00276 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00233 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00187 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00141 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00234 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00096 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66474 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.68468 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69527 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72271 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.80707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67606 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.67227 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72581 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45092 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40653 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52941 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.74566 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75325 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75888 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80678 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.86957 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71429 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75957 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79032 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71767 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6964 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.54499 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50049 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.61251 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54752 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75332 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76226 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76642 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81209 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87514 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72188 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77329 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76909 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79919 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72532 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71194 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.631 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.56399 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75917 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76612 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77142 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81439 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87544 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72549 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77729 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77193 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80302 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73152 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71974 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.58328 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53102 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63566 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57476 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76155 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76954 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77339 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81651 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87629 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72786 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77332 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80449 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73344 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72273 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.58809 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53896 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64012 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58044 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76169 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76965 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81656 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87642 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72803 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80463 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73375 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72285 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5882 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53945 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64044 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58089 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "multilingual-e5-base", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-14T05:03:54Z", | |
| "is_anonymous": false, | |
| "revision": "591813ec54380c491db502d768cc341e" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76169 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76965 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81656 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87642 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72803 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80463 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73375 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72285 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5882 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53945 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64044 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58089 | |
| } | |
| ] | |
| } | |
| ] |