eval_results
/
AIR-Bench_24.04
/gte-Qwen2-7B-instruct
/bce-reranker-base_v1
/results_20240701132318-0433cc4eac6c3400f49ed9056a390ddf.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35702 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67472 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62082 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66009 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60808 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50028 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57035 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79273 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66937 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57943 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67023 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60457 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3294 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60712 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59892 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62229 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.596 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55927 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43546 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58065 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69633 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62699 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51453 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61475 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57438 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33234 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59509 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60922 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61802 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56965 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5711 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41607 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59995 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71188 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64743 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51843 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61795 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58153 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34972 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6124 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64133 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64494 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58302 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60037 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42944 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62447 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74334 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67205 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54252 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64229 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60718 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36914 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64363 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67175 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70901 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6264 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63862 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46172 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64626 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76286 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69146 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57303 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67142 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63727 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37292 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64641 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6763 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64488 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46498 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65084 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76361 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69359 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57669 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67444 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64009 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37292 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64641 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6763 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64488 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46498 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65084 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76361 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69359 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57669 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67444 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64009 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.13023 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.21016 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26489 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.13748 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26163 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.1325 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35082 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.414 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38272 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24707 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.265 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29165 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21711 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37486 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42034 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34349 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28817 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41835 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23596 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4956 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5649 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52142 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37286 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42592 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41875 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25535 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45147 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48825 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43545 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37407 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47251 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28495 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53775 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62136 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56726 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4193 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4934 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47248 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28937 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5139 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55614 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53377 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45815 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50792 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32851 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56949 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65853 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59331 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45156 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54948 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51664 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29954 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53296 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5745 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57557 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48445 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52407 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34486 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57818 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66878 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6017 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46429 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56663 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53194 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53343 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57531 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57663 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52506 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34544 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57867 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66891 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60203 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46482 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56718 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5324 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53343 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57531 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57663 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52506 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34544 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57867 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66891 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60203 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46482 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56718 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5324 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.13023 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.21016 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26489 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.13748 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26163 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.1325 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35082 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.414 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38272 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24707 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.265 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29165 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24663 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40866 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46837 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38455 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32232 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47064 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26859 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54751 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60355 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57555 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41918 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46752 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46914 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31084 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.519 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57729 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51905 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44783 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56854 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34806 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63093 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69981 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66333 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50209 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57522 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56362 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3827 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62675 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70097 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68638 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58937 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65645 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43323 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70376 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78557 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73071 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58293 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67989 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65996 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4408 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70816 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78772 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85024 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70017 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78192 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52032 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78442 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.8423 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79497 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67992 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75782 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74623 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46042 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71985 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80826 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87045 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81207 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53331 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81097 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84587 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80522 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69809 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77101 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75955 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46042 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71985 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80826 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87045 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81207 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53331 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81097 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84587 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80522 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69809 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77101 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75955 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35702 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67472 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62082 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65707 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66009 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60808 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50028 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57035 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79273 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66937 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57943 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67023 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60457 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26596 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52328 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46076 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55473 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55781 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4257 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38726 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36025 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46436 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40031 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38533 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48425 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41203 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21743 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43041 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37856 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48474 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32583 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31679 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26877 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35021 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29797 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29636 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39133 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32818 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.14386 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27861 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25843 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34792 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33431 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19672 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.20825 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16309 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.20899 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17302 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1807 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.25152 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20855 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03327 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.06403 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05942 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08759 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0792 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04656 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05011 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03597 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0459 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03808 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04216 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05783 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04878 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01703 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03243 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03033 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04456 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04045 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02402 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02556 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01833 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02304 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01931 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02148 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02935 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02474 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0017 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00324 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00303 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00446 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0024 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00256 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00183 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0023 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00193 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00215 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00293 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00247 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35702 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67531 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62082 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65738 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66062 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60808 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49972 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57098 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.79392 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66937 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58001 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67023 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60457 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40505 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73679 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69248 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73777 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73951 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68395 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57765 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62471 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84187 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73654 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64654 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73678 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68336 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41269 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74533 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70271 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74931 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74916 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69335 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58771 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63503 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84672 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74456 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65532 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74641 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69534 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41662 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74842 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70713 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.753 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75189 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69792 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59186 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6387 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84899 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74786 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65979 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74936 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69951 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41823 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.74968 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70865 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75498 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75358 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70075 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59436 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64156 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84987 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74933 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66251 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7505 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70146 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4185 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7498 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70881 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7551 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75363 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70099 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59445 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64193 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84989 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74942 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66268 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75063 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70156 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4185 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7498 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70881 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7551 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75363 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70099 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59445 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64193 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.84989 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74942 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66268 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.75063 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70156 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.67341 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71471 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.72781 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72861 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83152 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.66197 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66106 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6828 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.57297 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45399 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40356 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.48459 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.39357 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.64172 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.65581 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66884 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67215 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7586 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61335 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6081 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60278 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.626 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57582 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.57209 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.48731 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.47987 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.54417 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.65407 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.65586 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.67029 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.68954 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.6342 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64124 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63412 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64236 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60038 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61644 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.54323 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52733 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.49938 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.5637 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71136 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71594 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71853 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74916 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8148 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.68085 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.70007 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.69907 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69038 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66114 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.68833 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60047 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57059 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54923 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59032 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75266 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75756 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.757 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.78969 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.84977 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7132 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73514 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73051 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72257 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70102 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72731 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.6134 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59628 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62536 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75712 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76056 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76067 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.79219 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71871 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73295 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72636 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70702 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.7287 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63831 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.61638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.6002 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62935 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75712 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.76056 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76067 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.79219 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71871 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73295 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72636 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70702 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.7287 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63831 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.61638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.6002 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62935 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.22131 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.2072 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.21995 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.24155 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.30351 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27742 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.30762 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.30061 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35016 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26393 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32575 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.28257 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.31701 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.22293 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.39357 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.4215 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.40198 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.41645 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.45877 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.52108 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.45994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.47101 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.47201 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.50575 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.42521 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.47266 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.41182 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.42767 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.3686 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.50736 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51686 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.50111 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.51519 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.55709 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.62193 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.53484 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.53591 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53319 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.55407 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.49589 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.52846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46161 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46077 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.41044 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51801 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60281 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.60822 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.61233 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.645 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71644 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59214 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.58971 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58753 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59581 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56126 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58565 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.50257 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48329 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45309 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52861 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62741 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.6329 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63746 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66944 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73914 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60728 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60695 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60207 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61028 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57785 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60201 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51454 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4962 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47241 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53669 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62801 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.63342 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63816 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66991 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73985 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60816 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60728 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60241 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61081 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57877 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60221 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51515 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49652 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47291 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53706 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62801 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.63342 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63816 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66991 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73985 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60816 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60728 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60241 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.61081 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57877 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60221 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51515 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49652 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47291 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53706 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.22131 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.2072 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.21995 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.24155 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.30351 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27742 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.30762 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.30061 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35016 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26393 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32575 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.28257 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.31701 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.22293 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.39357 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.48124 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.44368 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.45669 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.50642 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.55694 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.50471 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.54798 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.54556 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.55966 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.47236 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.5487 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5088 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53858 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.43535 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6506 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63143 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.59062 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60435 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66074 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.70514 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.6327 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67586 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66729 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65017 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59827 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67374 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64319 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.64021 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52717 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6988 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79688 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.7855 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.78482 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.83196 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.87017 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.76039 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.81359 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.81898 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76062 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.75057 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.83873 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.7789 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.75643 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65696 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.78313 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.91403 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.90775 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.8882 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.94711 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96494 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.86532 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.92276 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.91749 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.86243 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.88699 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.97252 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.89992 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.92483 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.81574 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.93574 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.93728 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.92252 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.90406 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.95808 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97464 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.89309 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.93516 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.93036 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.88125 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.91579 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.9795 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.92395 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.94214 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.83769 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.95984 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.93728 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.92252 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.90406 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.95808 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97464 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.89309 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.93516 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.93036 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.88125 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.91579 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.9795 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.92395 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.94214 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.83769 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.95984 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.67341 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71471 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.72781 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72861 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83152 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.66197 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66106 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6828 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.57297 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45399 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40356 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.48459 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.39357 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55106 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.58058 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57594 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.5762 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.62047 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.47421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.44413 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.43511 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.42742 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.44536 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.37748 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.30266 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.24431 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.36228 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.21687 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.46069 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.49369 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.48935 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.47788 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.51196 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.38333 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.34817 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.33725 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.32419 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.36557 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.29892 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.23988 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.1816 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.27395 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.13976 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.31098 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.34985 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.34053 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.32242 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.34457 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.24613 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.2231 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.21793 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.20054 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.24153 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.20027 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.1546 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.11009 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.17647 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.07831 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.07139 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07952 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07763 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07369 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07761 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.0556 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.0507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04975 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04634 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05536 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04616 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03528 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02724 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04342 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01871 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03613 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.04012 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03935 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03717 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03932 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02836 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02563 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02513 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.0236 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02839 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02322 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01804 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01383 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02202 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.0096 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00361 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00401 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00393 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00372 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00393 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00284 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00256 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00251 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00236 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00284 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00232 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.0018 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00138 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.0022 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00096 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.67341 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71471 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.72781 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72861 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83152 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.66197 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66106 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6828 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.57297 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45399 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.40356 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.48459 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.39357 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76686 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.78328 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79043 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.79892 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89085 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75305 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74697 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.75762 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70537 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67793 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56339 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51731 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5775 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.50736 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.77697 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79184 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79887 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81219 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89466 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7377 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76545 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75943 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7685 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71931 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69428 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.58395 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53719 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59094 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51801 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.77928 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79693 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.80339 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81534 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89504 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7409 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76922 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7726 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7251 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70135 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59238 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54976 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59878 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52861 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78063 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79907 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.80435 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89582 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74296 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77148 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7664 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7739 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72796 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70484 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59685 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55562 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60296 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53672 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78087 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79919 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.80443 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89582 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74325 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7716 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76651 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77405 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72814 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70492 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59704 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55586 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60321 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.5371 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen2-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", | |
| "reranking_model": "bce-reranker-base_v1", | |
| "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-07-01T13:23:18Z", | |
| "is_anonymous": false, | |
| "revision": "0433cc4eac6c3400f49ed9056a390ddf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78087 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79919 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.80443 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89582 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74325 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7716 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76651 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77405 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72814 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70492 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59704 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55586 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60321 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.5371 | |
| } | |
| ] | |
| } | |
| ] |