diff --git a/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json b/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json deleted file mode 100644 index 516aef3c01085170e87451aca40f6a36ef907ead..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json +++ /dev/null @@ -1,7142 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": false, - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43309 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62876 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75344 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6075 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53691 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80703 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69578 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65261 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39616 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61543 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70528 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57463 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47483 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55444 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71343 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51444 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63613 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61703 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39698 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56219 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61397 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68554 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58789 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45661 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57056 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72466 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52163 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62963 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61338 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78656 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41898 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70359 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62048 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75427 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5569 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65905 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63667 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44802 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63679 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67527 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75149 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65271 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61441 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7766 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58985 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69539 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66704 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45066 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63972 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67814 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7534 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65398 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53698 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61567 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59138 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69757 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66895 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45066 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63972 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67814 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7534 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65398 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53698 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61567 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59138 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69757 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66895 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18373 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2877 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26698 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14532 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23628 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26948 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27819 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34081 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43922 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40419 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43452 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26085 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47191 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5799 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36792 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43755 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45607 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6327 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31464 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41378 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50265 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48853 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31439 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51081 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6338 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41732 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50161 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50579 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34936 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48122 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60235 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5258 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3677 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5371 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66988 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45783 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56063 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54778 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36482 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50961 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58007 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63797 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54225 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39536 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54858 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68239 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47414 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58339 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56523 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36522 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5102 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58068 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63844 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54247 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39594 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54873 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47438 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58385 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56563 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36522 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5102 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58068 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63844 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54247 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39594 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54873 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47438 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58385 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56563 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18373 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2877 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26698 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14532 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23628 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26948 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31268 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37661 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47693 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43651 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49589 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29615 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52603 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48034 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50547 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37505 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57006 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56576 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59374 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38806 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59974 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71271 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51267 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58053 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58671 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45205 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62425 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67885 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72781 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.59864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6886 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66414 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7924 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61998 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69852 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67824 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.53141 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84324 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78118 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63449 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73674 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85382 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71478 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.79269 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75786 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43309 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62876 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75344 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6075 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53691 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80703 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69578 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65261 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29798 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4946 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46365 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62294 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4339 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42161 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34259 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3911 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50228 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44132 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23409 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41143 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36791 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5266 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3324 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34626 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25413 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35295 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30491 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39608 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33837 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28464 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15569 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27784 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24356 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36577 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20375 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23662 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21001 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19393 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2596 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21312 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03819 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0867 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04731 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03485 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.0468 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0458 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06096 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04979 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43365 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62876 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75344 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6075 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53691 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80703 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69578 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65261 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48714 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70075 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70704 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80867 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69078 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59695 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8518 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64125 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.75847 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.72505 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49608 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71359 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71615 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81531 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70083 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64018 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60474 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85716 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65168 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7667 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73273 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50125 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72174 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81881 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70611 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6084 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85903 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65815 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77104 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73718 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72115 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72323 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81997 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70781 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64913 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61044 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85959 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80603 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73867 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50376 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72122 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72329 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82001 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70785 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64921 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61051 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66017 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77247 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7387 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50376 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72122 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72329 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82001 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70785 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64921 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61051 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66017 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77247 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7387 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67933 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64056 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6658 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73431 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73884 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63784 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68046 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76903 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69641 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70834 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78304 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71098 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "ndcg_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78304 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71098 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25245 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26461 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55558 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6091 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60856 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49263 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64675 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53862 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62963 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66226 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56636 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63686 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "map_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63686 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25245 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26461 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59737 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80911 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.8508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.81265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.78882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.72684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83534 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89451 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.89029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.94274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95181 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "recall_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46416 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4408 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.24364 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15823 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34144 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22322 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.08024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.05081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01904 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "precision_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_1", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_3", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6091 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_5", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81371 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58145 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_10", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81646 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62963 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_50", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_100", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72183 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63686 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", - "task": "long-doc", - "metric": "mrr_at_1000", - "timestamp": "2024-05-13T17:42:59Z", - "is_anonymous": "False", - "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72183 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63686 - } - ] - } -] \ No newline at end of file