[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80672 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43309 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62876 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64746 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68356 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6075 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54737 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80703 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56153 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65261 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.73469 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39616 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57135 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61543 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70528 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60823 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57463 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55444 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71343 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69091 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51444 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63613 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61703 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.74243 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39698 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56219 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61397 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68554 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57103 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58789 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45661 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57056 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72466 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70135 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52163 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62963 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61338 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.78656 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41898 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59074 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6378 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70359 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58936 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62048 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48344 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59164 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75427 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72334 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5569 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65905 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63667 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.82163 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44802 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63679 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67527 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75149 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.657 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65271 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53405 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61441 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7766 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73968 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58985 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69539 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66704 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.82258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45066 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63972 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67814 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7534 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66122 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65398 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53698 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61567 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77734 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59138 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69757 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66895 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.82258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45066 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63972 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67814 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7534 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66122 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65398 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53698 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61567 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77734 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59138 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69757 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66895 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33844 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18373 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19271 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2877 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21011 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14272 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26698 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14532 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33436 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42203 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43797 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23628 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26948 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31467 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.54813 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27819 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34081 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43922 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.40419 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29609 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43452 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26085 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47191 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5799 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58847 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36792 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43755 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45607 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.6327 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31464 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41378 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50028 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50265 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37762 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48853 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31439 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51081 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6338 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62935 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41732 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50161 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50579 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.7006 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34936 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48122 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5565 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60235 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46091 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5258 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3677 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5371 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66988 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.654 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45783 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.56063 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54778 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72229 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36482 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50961 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58007 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63797 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50459 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54225 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39536 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54858 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68239 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47414 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58339 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56523 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72249 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36522 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5102 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58068 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63844 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50562 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54247 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39594 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54873 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68254 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66235 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47438 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58385 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56563 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.72249 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36522 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5102 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58068 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63844 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50562 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54247 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39594 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54873 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68254 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66235 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47438 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58385 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56563 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.33844 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18373 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19271 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2877 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21011 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14272 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26698 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14532 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33436 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42203 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43797 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23628 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26948 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31467 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.58722 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31268 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37661 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47693 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43651 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3269 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49589 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29615 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52603 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62034 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62745 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42197 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48034 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50547 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.71311 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37505 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49067 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57006 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56576 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44412 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38806 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59974 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71271 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69838 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51267 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58053 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58671 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.84668 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45205 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62425 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67885 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72781 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59864 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6886 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50274 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66414 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7924 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75989 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61998 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69852 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67824 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94477 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53141 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.74168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.84324 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76149 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78118 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63449 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73674 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85382 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80877 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.71478 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.79269 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75786 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80672 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43309 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62876 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64746 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68356 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6075 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54737 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80703 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56153 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65261 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.56718 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29798 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4946 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46365 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62294 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5651 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4339 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42161 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34259 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47707 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43273 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3911 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50228 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44132 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.44868 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23409 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41143 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36791 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5266 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47727 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3324 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34626 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25413 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.35295 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.31048 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30491 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39608 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33837 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28464 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15569 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27784 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24356 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36577 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33474 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.20375 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23662 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15224 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.21001 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17881 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19393 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2596 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21312 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.06444 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03819 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06755 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05867 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.0867 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08616 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04731 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.06025 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03485 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0468 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03917 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0458 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.06096 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04979 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.03234 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.00323 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.80672 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43365 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62876 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64746 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6841 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6075 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54737 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80703 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56153 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65261 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85178 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.48714 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70075 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70704 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80867 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.75196 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69078 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.6265 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59695 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8518 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79589 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64125 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75847 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72505 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85599 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49608 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71359 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71615 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81531 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76175 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70083 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64018 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60474 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85716 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80229 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65168 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7667 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73273 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.85882 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50125 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71942 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72174 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81881 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76691 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70611 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64638 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6084 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85903 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80508 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65815 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77104 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73718 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.8604 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50367 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72115 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72323 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81997 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76851 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70781 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64913 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61044 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85959 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80603 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66011 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77243 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73867 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.86042 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50376 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72122 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72329 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82001 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76856 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70785 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64921 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61051 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8596 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80604 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66017 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77247 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7387 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.86042 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50376 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72122 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72329 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82001 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76856 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70785 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64921 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61051 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8596 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80604 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66017 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77247 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7387 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52147 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69859 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69684 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61975 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66416 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67933 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57419 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62188 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56625 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52633 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5629 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64056 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68995 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67153 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77058 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69536 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59068 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67141 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60294 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57436 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58401 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6658 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73306 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72076 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73431 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78792 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73884 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63784 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7205 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65814 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61676 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63114 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68046 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78084 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77117 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77618 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86157 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70436 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77356 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77072 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.76903 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69641 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75759 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69461 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65392 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67875 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70834 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77744 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82907 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70067 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75966 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69643 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66079 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68219 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71098 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77744 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82907 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70067 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75966 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69643 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66079 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68219 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71098 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25245 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38297 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35497 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34676 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37191 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27635 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4768 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42743 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55558 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43112 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52359 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48034 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44533 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6091 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56108 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54556 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6145 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63612 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60856 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48992 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58665 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52534 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5161 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49263 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62336 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61963 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63459 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69185 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64675 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53862 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62914 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56391 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53754 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53428 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62963 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66181 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65348 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66276 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65232 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56636 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64572 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57776 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5496 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55626 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63662 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66299 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65567 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66252 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56722 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6461 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.578 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55031 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55667 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63686 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66299 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65567 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66252 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56722 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6461 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.578 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55031 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55667 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63686 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25245 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34492 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38297 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35497 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34676 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37191 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27635 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52312 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46485 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47829 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5108 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60697 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58176 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60966 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48261 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59737 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57221 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51293 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73092 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64442 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59447 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62941 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69915 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69209 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70729 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59196 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73527 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68013 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6726 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61041 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79116 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78875 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77515 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78617 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82953 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80911 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71109 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.8508 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.81265 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.78882 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.72684 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83534 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91732 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.90806 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.93249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89451 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.89029 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97108 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.94274 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.92854 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87763 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95181 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52147 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45191 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46416 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4408 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40811 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33538 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40523 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24364 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46821 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49941 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49676 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34699 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.32162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25031 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19228 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30308 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15823 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.30087 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34144 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.32094 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22282 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20914 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22322 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19757 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.1592 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11395 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19104 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08353 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.08024 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0544 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05645 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.046 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03718 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02754 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01904 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00243 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72312 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52147 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80112 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80645 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70128 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71712 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64366 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56231 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67787 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6091 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8039 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82475 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81162 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81371 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71412 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7336 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65593 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58145 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68992 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62336 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8276 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8096 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82857 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81424 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81646 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71828 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7376 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59458 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69434 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62963 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81029 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83014 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74055 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80061 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81743 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7217 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74071 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66732 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59941 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69804 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63662 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81747 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72183 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74075 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59997 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69824 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63686 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:09:34Z", "is_anonymous": false, "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81747 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72183 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74075 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59997 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69824 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63686 } ] } ]