diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results_20240514042915-e248d44ce97dc599aedd97532d02f8bf.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results_20240514042915-e248d44ce97dc599aedd97532d02f8bf.json deleted file mode 100644 index 03a01156a5b6d70d665f089367da91637738648c..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results_20240514042915-e248d44ce97dc599aedd97532d02f8bf.json +++ /dev/null @@ -1,7142 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22765 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4779 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40149 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50245 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51963 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44795 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39133 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21857 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44595 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40457 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45713 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47311 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34689 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46153 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63004 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43256 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46538 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38276 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41652 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44923 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48982 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3345 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48475 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63714 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44386 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47051 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39817 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24326 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47266 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45701 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48295 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53048 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35663 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51528 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66621 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48729 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51076 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43263 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75078 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28515 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52466 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52915 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59816 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58715 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55454 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68855 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53472 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56411 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49639 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29234 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53718 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61126 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59518 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40806 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56008 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29234 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53718 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61126 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59518 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40806 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56008 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13586 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21964 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09979 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27672 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19501 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19175 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14263 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25474 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27749 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2417 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34403 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17759 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38377 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30226 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30921 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27098 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31755 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29546 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38816 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21383 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41998 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54346 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34222 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35332 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30432 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18865 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36082 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36401 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35942 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42559 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25159 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44699 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33659 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20658 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39944 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42157 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45004 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27534 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46412 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5862 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40333 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43123 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36326 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20767 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39095 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40103 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42469 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45128 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27592 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46476 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58637 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40406 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36483 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20767 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39095 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40103 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42469 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45128 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27592 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46476 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58637 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40406 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36483 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13586 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21964 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09979 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27672 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19501 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19175 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50288 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17133 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30038 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28108 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40331 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44447 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54939 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35998 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33034 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21793 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37747 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50093 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28366 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52659 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44769 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45262 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41321 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28064 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51636 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54127 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52962 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61015 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37955 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61523 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70419 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5683 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57817 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51614 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40143 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64762 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.73876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82465 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78706 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74509 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76605 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71117 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71972 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87563 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82575 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51645 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.77597 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.73768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.87563 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82575 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51645 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.77597 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.73768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22765 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4779 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40149 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50245 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51963 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44795 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39133 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48128 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17324 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38833 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30215 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3998 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35579 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30988 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28055 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41076 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26421 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14336 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32575 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24981 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34255 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27651 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25762 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21552 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3003 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25997 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29424 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21582 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09983 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22846 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18352 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25715 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17844 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17961 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13527 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18064 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17452 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20671 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1495 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03021 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05945 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08464 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04684 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04864 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03449 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04486 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05503 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04521 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03023 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02905 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04461 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02439 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02485 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0177 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02301 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00302 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00291 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00446 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00244 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00249 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0023 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22765 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47908 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40087 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50245 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5208 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44795 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39192 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27679 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57395 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48885 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59461 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60691 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48052 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7844 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5569 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58665 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48213 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28756 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58969 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50784 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61244 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62349 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49808 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52571 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57351 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50258 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78993 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29405 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59717 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51951 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62252 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63032 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50742 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53353 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79474 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58222 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51344 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29884 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59973 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52447 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62709 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63487 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51095 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5375 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79556 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58554 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61396 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51904 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29926 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59988 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52472 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62732 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63511 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51109 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53792 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58584 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29926 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59988 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52472 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62732 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63511 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51109 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53792 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58584 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45467 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51999 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49305 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52235 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65796 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66074 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56766 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57429 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57429 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26916 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.42303 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44451 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51402 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45704 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46671 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49982 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37418 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54618 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57657 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47314 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67518 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62171 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8616 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.93539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86664 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37545 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35428 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18206 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12771 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19508 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07269 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04527 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49898 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.42303 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68714 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58201 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44451 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45704 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46672 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5994 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46735 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000", - "timestamp": "2024-05-14T04:29:15Z", - "is_anonymous": false, - "revision": "e248d44ce97dc599aedd97532d02f8bf" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5994 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46735 - } - ] - } -] \ No newline at end of file