diff --git a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/NoReranker/results_20241112104059-e60bc76d2b327c34b748e0b9e0710c35.json b/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/NoReranker/results_20241112104059-e60bc76d2b327c34b748e0b9e0710c35.json deleted file mode 100644 index 493d7ae5c8f411824b46a2f7837b5783dd4f7f85..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/NoReranker/results_20241112104059-e60bc76d2b327c34b748e0b9e0710c35.json +++ /dev/null @@ -1,3257 +0,0 @@ -[ - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74449 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53017 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50929 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58699 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50789 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36953 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60765 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64186 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49828 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52822 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49196 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53972 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48436 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32094 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32586 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62124 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6471 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49982 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52689 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50499 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44834 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5521 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3253 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55786 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31831 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64958 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52838 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55545 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53598 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47933 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58824 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34892 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58501 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33925 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68667 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72148 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58382 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60031 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56073 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64443 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39984 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6206 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41528 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69416 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73147 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59861 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63574 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6124 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65512 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41339 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62738 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43449 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.707 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61779 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65332 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6297 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59959 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67017 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64314 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46805 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39425 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39392 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26324 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24226 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22997 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27738 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15107 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10232 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51138 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.51645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36516 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36204 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34988 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27079 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42019 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22371 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45639 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17569 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54482 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55409 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40001 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40802 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40133 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3194 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46192 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24946 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49372 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21097 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56906 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58543 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43502 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45253 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44928 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36936 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49488 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27624 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52089 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24388 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58445 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60504 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4596 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48514 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40912 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51859 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53605 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27571 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58575 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60687 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46213 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48776 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48387 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41217 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52047 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29977 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53698 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2792 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58657 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60782 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46357 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48914 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48519 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41408 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52152 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30147 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53767 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28163 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39425 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39392 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26324 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24226 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22997 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27738 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15107 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10232 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55926 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56094 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31166 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47155 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39694 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26693 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52102 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2082 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62827 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63242 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49175 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4914 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49252 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39836 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55497 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32185 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27499 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70376 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71739 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58881 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59652 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60366 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51995 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65542 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39769 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68223 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36389 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81828 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84299 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74498 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77952 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78186 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7377 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82435 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54765 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.80119 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56864 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.92926 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.95485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.9129 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.93234 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.92857 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.91946 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.96576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.95824 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.93802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.95152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.7875 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.95497 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.8169 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74449 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53017 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50929 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58699 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50789 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36953 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36808 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41275 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33997 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40028 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36266 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38794 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38645 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23191 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3205 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28403 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26427 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29887 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26175 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31503 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29839 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31762 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18201 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23962 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23878 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1813 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2098 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22092 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30285 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18026 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14669 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16532 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03932 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04565 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04804 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05918 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05788 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0484 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03715 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03606 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05371 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02627 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03084 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02574 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02054 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03025 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00228 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00266 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.003 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0034 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00406 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00257 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00205 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00375 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74449 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53017 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50929 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58699 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50789 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36953 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72766 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80216 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60906 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57993 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58819 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66296 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62796 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41005 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58065 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44506 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73666 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80892 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62321 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67903 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59644 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60481 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67529 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42199 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5921 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46179 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63073 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68501 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60416 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61331 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68167 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59747 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4732 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81402 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63469 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68817 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60917 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61836 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68571 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43362 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60115 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48045 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74443 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63522 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68845 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6095 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60147 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48093 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-11-12T10:40:59Z", - "is_anonymous": false, - "revision": "e60bc76d2b327c34b748e0b9e0710c35" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74456 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81422 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63536 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68857 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60969 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61883 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68616 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4346 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60184 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48124 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-large/results_20241112104454-e697a85307b1e588f288390a6db353d8.json b/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-large/results_20241112104454-e697a85307b1e588f288390a6db353d8.json deleted file mode 100644 index d1db1a0fb318391d724292d0b05478be4b89e98c..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-large/results_20241112104454-e697a85307b1e588f288390a6db353d8.json +++ /dev/null @@ -1,3257 +0,0 @@ -[ - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59051 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56629 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64879 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45253 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4694 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54903 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6535 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58334 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57127 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60974 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45565 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41435 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49707 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49252 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67455 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73759 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59613 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65015 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58268 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60813 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48413 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52312 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48483 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70426 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77344 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62707 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6859 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61516 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64334 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52932 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45081 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5589 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51311 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72599 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79065 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65822 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71237 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65576 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67685 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59073 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59497 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54376 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72842 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79163 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66229 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66127 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68122 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59834 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60201 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54829 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72842 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79163 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66229 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66127 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68122 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59834 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60201 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54829 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40207 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41302 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28194 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19881 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19668 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19559 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2969 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14641 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55091 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57993 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42321 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43658 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39431 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36695 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32984 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33694 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42014 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2714 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59836 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64259 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4833 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51609 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46283 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45358 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38749 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39795 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33733 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46128 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33625 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62982 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68658 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53362 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58768 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52924 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5356 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4313 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45319 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38039 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49524 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39845 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63903 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69648 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54943 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60338 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55083 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55639 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4551 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39272 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50917 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41576 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69666 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55012 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55175 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55724 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45637 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39337 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51002 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41664 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69666 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55012 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55175 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55724 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45637 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39337 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51002 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41664 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40207 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41302 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28194 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19881 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19668 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19559 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2969 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14641 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63248 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4847 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48716 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4495 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41323 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3937 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32509 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47917 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31615 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69273 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59105 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61632 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50942 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40438 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56625 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42319 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77088 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.83286 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69871 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.745 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68689 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68821 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63372 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49617 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66829 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54046 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.83998 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88075 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.78863 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.81874 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.80685 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.77815 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.83585 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.80177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.58486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.79633 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.62377 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59051 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56629 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64879 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45253 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4694 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54903 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4144 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48719 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42648 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50703 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44259 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53526 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3554 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58609 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31168 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30705 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44247 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3077 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36962 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34446 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42151 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36778 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45245 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29151 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25519 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23773 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3744 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.18309 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22209 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27962 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30713 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18928 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17135 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15047 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25424 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0408 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04834 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.05141 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.06027 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.07005 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0496 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.05114 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03997 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03638 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05904 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02627 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03084 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02574 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02054 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03025 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00207 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00263 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00318 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00357 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00257 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00205 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00188 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00302 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59051 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56629 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64879 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45253 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4694 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54903 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75014 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85319 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68092 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.75906 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.73984 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55585 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.505 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5347 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64321 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75805 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85792 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69463 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76898 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66165 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74853 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57254 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51494 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54776 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.65485 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76193 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85968 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69934 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66801 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75131 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58183 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.78044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.5198 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55618 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.65885 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76421 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.86011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70159 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77252 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67091 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75229 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58761 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.78117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52273 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56053 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.66014 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.86013 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70171 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67114 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7524 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58787 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.78124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52299 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.66022 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-11-12T10:44:54Z", - "is_anonymous": false, - "revision": "e697a85307b1e588f288390a6db353d8" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.86013 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70171 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67114 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7524 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58787 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.78124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52299 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.66022 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-v2-m3/results_20241112104340-942f3f5cc9fed1e4c41341e85d0ae0f1.json b/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-v2-m3/results_20241112104340-942f3f5cc9fed1e4c41341e85d0ae0f1.json deleted file mode 100644 index b2137a3d090c6cc0e3e396de802dce09252a619e..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/bge-reranker-v2-m3/results_20241112104340-942f3f5cc9fed1e4c41341e85d0ae0f1.json +++ /dev/null @@ -1,3257 +0,0 @@ -[ - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75796 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66198 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70469 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65118 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63347 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62039 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52687 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70221 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72775 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62519 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64448 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62178 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.578 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58367 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57535 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46539 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71545 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62656 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6388 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62353 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56822 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59792 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41982 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5928 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44906 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74065 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67267 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64901 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60104 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63928 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44446 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61695 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47492 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76067 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79675 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68637 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71263 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69189 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65483 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68099 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47745 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64779 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52451 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76167 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68907 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71527 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69598 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65865 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48223 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65237 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52839 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76167 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68907 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71527 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69598 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65865 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48223 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65237 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52839 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43081 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31772 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27639 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28866 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19374 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2745 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19882 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13948 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59781 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46299 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44525 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44434 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34707 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4441 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29495 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48998 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25525 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6419 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6507 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51658 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50988 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50853 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41952 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49791 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33547 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53041 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30903 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66975 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68933 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56223 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57228 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56583 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49111 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54038 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37235 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5584 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36065 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67964 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70288 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58097 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59721 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59151 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52332 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56113 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38911 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57206 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38844 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67981 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70303 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58146 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59773 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59226 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56191 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57253 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38921 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67981 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70303 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58146 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59773 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59226 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56191 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57253 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38921 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43081 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31772 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27639 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28866 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19374 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2745 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19882 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13948 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64212 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63474 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51491 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49055 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4842 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38478 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50508 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33035 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55231 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29205 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7177 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73309 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6058 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58372 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49862 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60564 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40296 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62986 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38409 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7864 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81879 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70533 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71899 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69846 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63933 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70286 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4983 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84669 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.79493 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.82388 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.81402 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.78116 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.84634 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.80527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.58381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.80892 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.62633 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75796 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66198 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70469 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65118 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63347 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62039 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52687 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43988 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4862 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44483 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50683 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46819 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50069 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43722 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3052 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35584 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41477 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31812 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.362 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34575 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39964 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4145 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33404 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24442 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26297 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34183 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.18523 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22004 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26417 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2474 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20902 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16219 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15792 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2323 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.04115 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04839 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.05178 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06283 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.06052 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.07017 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.05035 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.05122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04003 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05924 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02627 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03084 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02574 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02054 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03025 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00207 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00263 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00318 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00357 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00257 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00205 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00188 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00302 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75796 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66198 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70469 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65118 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63347 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62039 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52687 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80766 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8648 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73326 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76916 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71375 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70762 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69986 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50259 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61661 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.61025 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81325 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8707 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74418 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77671 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72392 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71973 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71105 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51336 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.62432 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7478 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.78133 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72918 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72538 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71816 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66939 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6288 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63209 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81716 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74954 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.78264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7314 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72723 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72032 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52114 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6322 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63458 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81717 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.78269 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.73152 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72729 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72052 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52143 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63256 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63463 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-11-12T10:43:40Z", - "is_anonymous": false, - "revision": "942f3f5cc9fed1e4c41341e85d0ae0f1" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81717 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.78269 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.73152 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72729 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72052 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52143 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63256 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63463 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/jina-reranker-v2-base-multilingual/results_20241112104237-cfc3aa5bdf0ef44973c9d5f9493aa9ee.json b/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/jina-reranker-v2-base-multilingual/results_20241112104237-cfc3aa5bdf0ef44973c9d5f9493aa9ee.json deleted file mode 100644 index 7656f257a1fb3d403174566820667e2e4f56d2c2..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/inf-retriever-qwen2-7b-preview/jina-reranker-v2-base-multilingual/results_20241112104237-cfc3aa5bdf0ef44973c9d5f9493aa9ee.json +++ /dev/null @@ -1,3257 +0,0 @@ -[ - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81934 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84098 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69654 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66667 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70136 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64231 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64675 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50861 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67256 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50471 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7401 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.731 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63786 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59364 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66102 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56421 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57489 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52929 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44898 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43297 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74755 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73338 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63218 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6566 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55312 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57795 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44706 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66772 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41478 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65852 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61658 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67858 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57845 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60984 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46683 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68773 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43959 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78592 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69632 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67683 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71983 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64297 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65845 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.5017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71263 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50192 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78792 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79727 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72311 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67233 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.59896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50581 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71578 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50761 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78792 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79727 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72311 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67233 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.59896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50581 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71578 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50761 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48467 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4451 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35537 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27451 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3226 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20265 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29311 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23859 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44287 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13879 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64057 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60177 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4857 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41539 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48778 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34595 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44544 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58073 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23855 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68194 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64766 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53134 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46643 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54924 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41302 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48706 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37002 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61661 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28421 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70657 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68515 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57297 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51631 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.605 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47388 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52064 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40214 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64305 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33015 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71564 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70078 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59371 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54858 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6306 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50964 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54125 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42516 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41963 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65473 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36234 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71595 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70111 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59446 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5498 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63117 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51077 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54356 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65511 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36339 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71595 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70111 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59446 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5498 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63117 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51077 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54356 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65511 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36339 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48467 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4451 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35537 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27451 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3226 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20265 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29311 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23859 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44287 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13879 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66604 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5208 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45507 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51662 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48292 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35422 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61302 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27103 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73237 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70629 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59595 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53959 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60407 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47967 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56249 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41279 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34911 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78985 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79622 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6895 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65018 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60137 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65612 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50301 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69548 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48857 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4558 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84237 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87737 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.79057 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.81205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.81758 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.77271 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80793 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.81349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.58814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.81822 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.61852 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85105 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.80692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.89166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.83033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.60742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83562 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64195 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81934 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84098 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69654 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66667 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70136 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64231 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64675 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50861 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67256 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50471 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45667 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43781 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45019 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48947 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41886 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32075 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38423 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37765 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.32368 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34711 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32923 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35223 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38401 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30791 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24631 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27558 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30825 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.18477 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20947 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20972 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25056 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26417 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18887 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15902 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.16233 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21313 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.04086 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04809 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.05126 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06171 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.06077 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06948 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04767 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.05152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03703 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05877 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02627 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03084 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02574 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02054 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03025 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00207 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00263 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00318 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00357 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00257 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00205 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00188 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00302 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81934 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84098 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69772 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66667 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64231 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64675 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67382 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50526 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84877 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75659 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72975 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.74928 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70242 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70084 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.75496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54562 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70673 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58089 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85202 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.87861 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76347 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73985 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75727 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71293 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71197 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.55112 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71175 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59476 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85423 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76779 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74504 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7614 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7189 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71769 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76677 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.55609 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71529 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60315 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8552 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76958 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74748 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76364 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72191 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.7212 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.5591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71795 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60681 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85525 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88186 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76969 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74759 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76374 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72152 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.55933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71813 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60695 - } - ] - }, - { - "config": { - "retrieval_model": "inf-retriever-qwen2-7b-preview", - "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-qwen2-7b-preview", - "reranking_model": "jina-reranker-v2-base-multilingual", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-11-12T10:42:37Z", - "is_anonymous": false, - "revision": "cfc3aa5bdf0ef44973c9d5f9493aa9ee" - }, - "results": [ - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85525 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88186 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76969 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74759 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76374 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72152 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.76872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.55933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71813 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60695 - } - ] - } -] \ No newline at end of file