eval_results
/
AIR-Bench_24.04
/gte-Qwen1.5-7B-instruct
/bge-reranker-v2-m3
/results_20240605033346-1e244b372513682837fc33247f44a074.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32815 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59163 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68216 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77955 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71612 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67721 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54294 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61451 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83621 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77707 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5933 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72252 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66784 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2735 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49396 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63147 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72152 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62078 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61784 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45016 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62028 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71157 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69758 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50689 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63477 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59825 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26635 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46024 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62557 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69682 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57232 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62303 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41717 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62813 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70112 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69808 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49829 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61147 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58774 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27166 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4538 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6414 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70673 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58131 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6518 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42703 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64668 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71277 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71138 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51318 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62344 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59927 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2845 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46958 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67523 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74927 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68329 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4571 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66671 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72252 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72254 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53165 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64667 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61917 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28555 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47048 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.678 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7509 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63549 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68608 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45943 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66922 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72259 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72377 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53272 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64786 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62049 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28555 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47048 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.678 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7509 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63549 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68608 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45943 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66922 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72259 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72377 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53272 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64786 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62049 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.12724 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.17961 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30372 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22102 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.15376 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30803 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.14339 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39086 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43558 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45119 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2525 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.2842 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32144 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18756 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29602 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45586 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41996 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.30735 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48009 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.24773 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53809 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58196 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59689 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37115 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44162 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44573 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20918 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.339 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51614 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51765 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38095 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52978 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.28867 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57338 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61856 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63066 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40718 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49342 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48882 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22673 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37004 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56788 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61154 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45525 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56331 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32668 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59864 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63954 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64866 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43064 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.537 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52162 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23344 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37916 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5888 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64398 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48827 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5789 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34347 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60867 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64511 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65451 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43898 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5519 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53319 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23358 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3793 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58934 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64437 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48893 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57931 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3439 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60891 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64513 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65468 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43911 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55211 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53339 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23358 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3793 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58934 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64437 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48893 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57931 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.3439 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60891 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64513 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65468 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43911 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55211 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53339 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.12724 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.17961 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30372 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22102 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.15376 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30803 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.14339 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39086 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43558 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45119 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2525 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.2842 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32144 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20145 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31332 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48142 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33351 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52624 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58476 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60274 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62389 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40314 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46725 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47438 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23645 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37317 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56794 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43531 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61294 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33926 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64261 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65788 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67783 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46708 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5396 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54318 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27362 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42819 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66216 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71607 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5726 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70124 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41946 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70176 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70087 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72111 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52844 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62207 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60943 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31003 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4693 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75217 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81732 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69541 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79531 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4954 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76698 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72678 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75354 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58263 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68077 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66166 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31512 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47334 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76361 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70632 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80887 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50483 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78198 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72702 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75936 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58819 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68623 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66745 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31512 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47334 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76361 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.70632 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80887 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50483 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78198 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72702 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75936 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58819 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68623 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66745 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32815 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59163 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68216 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77955 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71612 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67721 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54294 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61451 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83621 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77707 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5933 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72252 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66784 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20692 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41465 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47026 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63401 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56919 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45401 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39409 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37434 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46853 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43621 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37358 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49396 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41828 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15658 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31797 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37051 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53002 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46734 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3372 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.30648 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26864 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32722 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30353 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27487 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37291 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31482 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.09772 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.19263 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23965 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36099 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.31985 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2024 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.19928 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15836 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.18309 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16908 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1621 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23191 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19174 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02255 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04262 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05691 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08441 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.07863 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04683 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04787 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03544 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03878 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03617 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03628 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05239 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04309 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01139 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02143 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0289 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04249 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03983 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02374 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02431 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01791 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0194 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01823 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01826 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02635 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02172 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00114 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00214 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00289 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00425 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00398 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00237 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00243 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00179 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00194 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00182 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00183 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00264 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00217 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32815 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59163 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68278 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77971 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71665 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67721 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54238 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61388 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83621 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77707 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5933 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72252 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66784 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35101 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62846 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72687 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82305 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77286 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73775 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.59723 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66446 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.85845 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80872 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63951 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76322 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71666 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35526 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63353 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73437 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82939 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78067 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74551 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60698 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66872 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.86119 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.8124 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64671 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76747 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72328 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35838 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63566 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7385 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83194 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78529 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75073 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61236 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67198 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.86186 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81419 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65081 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77004 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72603 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35953 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63694 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74028 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7526 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61408 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67379 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.86218 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81485 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65258 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77097 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7273 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3596 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63699 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74034 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83298 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78674 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75272 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61413 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67397 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.86218 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.8149 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65264 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77102 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72736 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3596 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63699 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74034 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83298 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78674 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75272 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61413 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67397 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.86218 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.8149 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65264 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77102 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72736 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75145 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.72973 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80236 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67887 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.70868 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.70968 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62295 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52761 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46588 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60504 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51406 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68716 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67228 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69398 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.78123 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.62113 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.65495 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63744 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66304 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57494 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62118 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56346 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52456 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.56078 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64912 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.67538 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66403 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.68215 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72953 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.76926 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.62944 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67468 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.6651 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.67533 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.58946 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6645 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60163 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57047 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58231 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.67884 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71537 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70347 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71636 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.77624 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.81532 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66463 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73127 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71208 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72053 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.63539 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71316 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65289 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.61532 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.62882 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.68914 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75349 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74607 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.74831 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85965 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70781 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76641 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75145 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.74752 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68935 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74833 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.68824 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.65213 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.67222 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.71895 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75473 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74779 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75002 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81543 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.86107 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71173 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76777 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7525 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.74971 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69223 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.75144 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.6911 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.65632 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.67711 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.72228 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75473 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74779 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75002 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81543 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.86107 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71173 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76777 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7525 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.74971 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69223 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.75144 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.6911 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.65632 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.67711 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.72228 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.25724 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.22915 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.23686 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.28006 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.30933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.29084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.3392 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.34685 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.36971 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26502 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.34866 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3488 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.37191 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.28321 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51406 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.46879 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.4202 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.44301 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.51445 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.54432 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.47192 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.52486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.51666 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.54023 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.43027 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.52165 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.48387 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.47878 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.443 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6178 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.54783 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.51562 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.53288 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.63553 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.53691 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.58051 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.57548 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59031 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.4887 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58085 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52462 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51234 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.49295 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63427 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.61291 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.60377 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.61682 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67975 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.72254 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58219 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63103 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62949 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.53673 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62306 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5614 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53571 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53401 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63848 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63762 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.63276 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63744 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70455 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7534 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60412 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64939 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63665 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64391 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56192 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63876 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57461 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5471 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.55422 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64597 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63783 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.6331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63778 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.75374 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60465 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63676 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64415 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56245 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63928 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57499 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54758 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.55487 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64629 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.63783 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.6331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63778 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70477 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.75374 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60465 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63676 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64415 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56245 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63928 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57499 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54758 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.55487 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64629 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.25724 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.22915 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.23686 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.28006 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.30933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.29084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.3392 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.34685 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.36971 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26502 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.34866 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3488 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.37191 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.28321 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51406 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51369 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.45579 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.47707 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.5542 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.57725 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.51564 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60105 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.57156 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59149 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.4881 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60012 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.58119 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56751 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.50625 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.73896 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62667 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.58803 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60753 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.68364 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.70509 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61819 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.70071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68138 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68449 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59078 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72572 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.67629 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.66568 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60349 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.81124 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.7688 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.74414 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75679 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.82764 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71918 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.83158 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7913 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7896 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70625 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.83765 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.79782 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.78635 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.7184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.84337 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.86931 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.85492 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.84026 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.92586 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.84581 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.9336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.90678 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.86501 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.87385 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.95158 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.92388 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.92928 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.85614 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.96787 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.87449 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.86272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.84783 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.93447 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97057 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.866 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.9399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.91294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8763 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.88665 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.965 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.93921 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.95302 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.88144 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.98795 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.87449 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.86272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.84783 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.93447 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97057 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.866 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.9399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.91294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8763 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.88665 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.965 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.93921 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.95302 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.88144 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.98795 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75145 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.72973 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80236 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67887 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.70868 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.70968 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62295 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52761 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46588 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60504 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51406 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.58092 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.58559 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.58974 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.63768 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.46627 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.46854 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.44538 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.45609 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.43807 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.40901 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.33231 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.25618 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.40149 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.24632 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.45549 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.48769 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.48047 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.48673 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.51033 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.36429 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.3493 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.3395 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.3371 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.34536 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.3173 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.24908 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.18872 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.30196 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.16225 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.2896 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.32793 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.32337 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.31534 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.33587 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.2253 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.22197 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.2098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.20538 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.22104 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.19568 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.15706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.11424 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.19076 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08434 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06653 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07538 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07215 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.0781 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.05429 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.0511 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04958 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04688 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05454 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04503 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03644 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02736 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04594 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01936 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03344 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.0379 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03663 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03929 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02753 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02572 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02487 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02366 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02768 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02295 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.0185 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01398 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02345 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00988 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00334 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00379 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00363 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00393 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00275 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00257 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00249 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00237 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00277 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00229 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00185 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.0014 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00234 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00099 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75145 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.72973 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80236 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67887 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.70868 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.70968 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62568 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62162 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52761 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46588 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60504 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.51406 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.81118 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.7993 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.81558 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.85644 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90217 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77638 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.78763 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70583 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71261 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64315 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56231 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.68441 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6178 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.8158 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.80395 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.82194 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.86352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90584 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73428 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78559 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78744 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79624 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71403 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72815 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65741 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5819 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.69281 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63427 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.82046 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.80806 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.82462 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.86552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73839 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7894 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.79113 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79839 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71864 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73346 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66255 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.59479 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.69838 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63848 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.82168 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.80962 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.82609 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.86625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90758 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7414 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.79116 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.79287 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79894 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7232 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73659 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66655 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.59966 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.70192 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64597 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.82179 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.80968 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.82612 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.86634 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90763 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74163 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.79119 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.79295 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79911 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72332 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73664 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66662 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60001 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.70218 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64629 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "gte-Qwen1.5-7B-instruct", | |
| "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-06-05T03:33:46Z", | |
| "is_anonymous": false, | |
| "revision": "1e244b372513682837fc33247f44a074" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.82179 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.80968 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.82612 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.86634 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.90763 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74163 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.79119 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.79295 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.79911 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72332 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73664 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66662 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60001 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.70218 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64629 | |
| } | |
| ] | |
| } | |
| ] |