diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results_20240514043026-cc2f97df4216a92a4553f2412ea2a1a1.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results_20240514043026-cc2f97df4216a92a4553f2412ea2a1a1.json deleted file mode 100644 index fbed02de55c5d4ce5fa276f0fb6a6f9b147f6fbf..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results_20240514043026-cc2f97df4216a92a4553f2412ea2a1a1.json +++ /dev/null @@ -1,7142 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30594 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56276 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59046 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71784 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64265 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43546 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58694 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28192 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5047 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56951 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66474 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.49365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58823 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37654 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55472 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53145 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55115 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57192 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4924 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64703 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60014 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35985 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57463 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67627 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53484 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54788 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57284 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73987 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30327 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66693 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63414 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59661 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56523 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57654 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5955 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55861 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64264 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73368 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67167 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42184 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62026 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60075 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61526 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62667 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33656 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6455 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73837 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67481 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42514 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62338 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60427 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61845 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62894 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33656 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6455 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73837 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67481 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42514 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62338 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60427 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61845 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62894 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11969 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17098 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26251 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20299 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28688 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11639 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32907 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25572 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23704 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29279 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1878 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29692 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38084 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45118 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.20065 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47234 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38874 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42041 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21689 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35441 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46585 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46933 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50387 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23882 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51258 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58638 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43489 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42626 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46723 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24443 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41018 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52013 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55877 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54149 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27367 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53901 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61275 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47109 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47535 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50471 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2597 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54371 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60413 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55875 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29658 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55039 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65516 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4876 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49763 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52291 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26012 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43484 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60521 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55074 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48809 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49826 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52332 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26012 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43484 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60521 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55074 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48809 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49826 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52332 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11969 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17098 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26251 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20299 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28688 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11639 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32907 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25572 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23704 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29279 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54897 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21702 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33222 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45098 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41481 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50068 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53528 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43664 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4176 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47268 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26918 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54723 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53763 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59765 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30117 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6154 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65754 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51925 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50769 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55572 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33521 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54133 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6559 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69382 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69484 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38802 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68091 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71897 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74976 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61443 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62022 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64211 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42195 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65024 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76121 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.81038 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50359 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.75793 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76843 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72027 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72015 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.72249 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87563 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82575 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51645 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.77597 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.73768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87563 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82575 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51645 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.77597 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.73768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30594 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56276 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59046 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71784 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64265 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43546 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58694 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.52037 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22191 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43312 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42668 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43585 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33278 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44511 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39669 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43197 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40344 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17934 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35687 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34585 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49071 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33052 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27191 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25438 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30387 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31283 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12082 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24231 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23259 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34262 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20293 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18277 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15268 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1863 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17539 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18908 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2262 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19731 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05716 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08764 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04804 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03491 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04106 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04523 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05515 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04712 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03023 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02905 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04461 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02439 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02485 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0177 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02301 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00302 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00291 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00446 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00244 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00249 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0023 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30594 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56276 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59108 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71784 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64265 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43601 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77129 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58752 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35749 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63583 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66274 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78058 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71051 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51367 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59506 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82023 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65858 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67796 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68492 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36584 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6482 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72211 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60481 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66834 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68708 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69456 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37116 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67884 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79303 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72759 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53684 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60809 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82718 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67342 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6938 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69919 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83205 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37355 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6564 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68075 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7947 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73008 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.5406 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6107 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82804 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6762 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6955 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7007 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3737 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65648 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79479 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73021 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54068 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61093 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82805 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67639 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69558 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70078 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3737 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65648 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79479 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73021 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54068 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61093 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82805 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67639 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69558 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70078 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64895 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64782 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54938 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60609 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65771 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6225 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69513 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62059 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65328 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73103 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67558 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68093 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68093 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57329 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57999 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60612 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51725 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59245 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5977 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54756 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54756 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.80271 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.84337 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85806 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.89534 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.8806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44713 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23561 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1494 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.20224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08434 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04629 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_1", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_3", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_5", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69208 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57999 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_10", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69758 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59245 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_50", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78302 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59769 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_100", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_1000", - "timestamp": "2024-05-14T04:30:26Z", - "is_anonymous": false, - "revision": "cc2f97df4216a92a4553f2412ea2a1a1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - } -] \ No newline at end of file