[ { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02224 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05829 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05572 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28328 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29897 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16762 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.15737 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.21614 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.24263 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19336 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.2405 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23295 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22478 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.13891 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.21967 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07994 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30454 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.316 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36053 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21235 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.23089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29086 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.23489 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.30969 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29812 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36756 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.19926 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.34412 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33623 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.27021 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31325 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.2211 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.19204 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.28276 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.2603 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28161 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21661 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.28726 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2766 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2899 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38456 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.18984 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.23401 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27924 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.19912 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.22083 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23377 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26527 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25768 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23156 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.29761 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0208 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06494 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04917 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2217 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28329 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26265 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.14148 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13793 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.19206 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.19848 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.16146 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.21369 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.21043 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.20502 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14542 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.20086 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06344 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26986 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26277 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29732 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.22019 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20029 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37634 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24863 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.22068 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.29874 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.27657 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32579 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.17876 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.2961 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.32672 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.24255 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.26381 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.18861 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.1815 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.26915 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.23292 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.25577 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19922 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.24753 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.25558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2757 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34286 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17394 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.22524 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.254 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.18787 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19792 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21177 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.25246 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.24481 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.21878 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.26812 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02168 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07199 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04806 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.21684 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28673 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25913 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.13168 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13319 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.18406 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.18511 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15453 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.20237 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.20297 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.20074 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.15676 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.193 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06116 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27484 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24219 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.28751 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.22806 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.18759 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39358 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23954 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.22904 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.31294 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.28841 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.33278 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.18175 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.30028 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33308 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.24525 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.26219 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.19339 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.18767 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.28496 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.24124 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.26186 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2027 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.2437 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.25344 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28298 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33795 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17508 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.23026 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.25174 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.19399 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19843 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21343 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.25666 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.24505 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.22785 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.26698 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0264 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08669 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05721 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.22749 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30741 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27561 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.13427 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.14022 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.19763 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.19198 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15791 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.20699 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.21443 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.21151 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.17903 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.20556 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06389 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2989 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25844 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.299 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.25553 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.19266 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41669 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25724 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.24998 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.33137 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30971 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.35463 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.19378 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.32016 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.34995 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.2592 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.2763 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.20956 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.20262 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.30167 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.25806 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28076 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22595 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.26058 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.26941 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30551 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35659 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.18888 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.25222 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.26772 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21019 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21835 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23526 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2765 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.26306 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.25031 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.28239 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04398 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12235 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08039 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27909 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36605 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34158 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.17993 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.18036 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.24604 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25312 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22002 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.26582 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27228 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.26289 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.22187 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.26335 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.08006 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35761 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3487 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.34782 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.31991 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.24638 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4574 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31953 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.28823 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.36628 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.34187 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39895 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.22295 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.36423 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.37993 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.28935 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31532 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.24952 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.23683 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.33372 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.30152 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.32011 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27618 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32095 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.32356 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3582 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.421 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.23624 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.31322 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.31988 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.26666 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.27876 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.28184 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.32817 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.32102 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.30581 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.33797 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05169 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13774 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09065 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.29871 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38245 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36164 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.19779 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.19543 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.26203 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.27317 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24317 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.28772 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.29044 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28014 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.23627 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.28319 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.08778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37374 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37805 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36488 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33805 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26637 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46701 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33997 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30349 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.37532 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35108 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41262 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.23658 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.37689 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.39011 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.30147 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.32838 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.26387 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.24962 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34377 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.31494 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.33157 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29369 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34297 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.33982 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3723 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43727 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.2536 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.33292 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.33706 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.28494 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.29845 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.29641 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34451 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33939 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.32313 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.35488 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07906 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17918 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12317 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.33954 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41703 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4062 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24863 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.2447 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30511 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.32476 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.2985 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33995 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.33375 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.3235 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.27272 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.33185 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11508 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40949 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43171 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.40598 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37826 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31899 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48976 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38072 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.35016 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.39987 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.37552 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44694 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.26809 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41257 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.41673 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.33227 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.36336 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.30055 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.28612 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.3717 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.35124 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.36581 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33596 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.39263 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37925 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40478 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47195 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29826 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.37561 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.37717 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.32954 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34797 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.33514 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.37965 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.38124 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.36706 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39329 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00552 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0195 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01332 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.09384 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.12372 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09116 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.04433 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.04368 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.07396 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.05773 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04728 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.06201 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06523 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.07894 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.08097 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.07035 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.02461 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.12995 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06605 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15329 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.07957 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.05589 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.07478 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.12456 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.20108 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16766 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.197 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.10698 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.17762 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.2106 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.14656 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.14485 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.09628 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.09327 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.17266 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.13907 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.14176 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.09553 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.11187 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.11326 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.12714 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.1454 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.07262 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.10438 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.11325 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.06827 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.07679 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.10408 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.11452 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.10763 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.10957 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.12374 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00948 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03818 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02351 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.13087 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18967 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1453 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.06671 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.06659 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.11218 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.09148 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.07006 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1033 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.10791 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.11725 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.11536 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.10863 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.0353 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19086 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11389 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.19884 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.13687 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.09187 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.31337 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12441 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.17676 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.24963 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.21878 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.2513 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.13259 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.22576 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.26524 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.1836 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.18374 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.12972 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.12884 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.21883 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.17711 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.18627 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13532 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.15235 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.16409 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18358 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21748 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.10612 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.15036 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.16356 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.10839 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.11402 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.14466 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.16915 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.15508 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.15279 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.17024 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01184 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04681 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02727 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.14564 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21279 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17134 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.07544 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.07677 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.12238 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.10525 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.08291 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.11955 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.12567 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.13239 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.12625 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.12251 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03823 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.20802 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13581 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.21147 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15899 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10853 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.338 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14811 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.18892 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.26314 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.23403 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26826 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.14196 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.23855 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.27667 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.19384 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.19747 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.1414 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.13909 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.23285 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.1893 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.2001 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1473 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.1682 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.18067 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.20761 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24321 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.11929 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.16671 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.17948 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.12601 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.12988 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.15799 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.18714 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.17159 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.16992 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.18776 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01481 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05704 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0335 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.16159 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23771 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19422 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.08477 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.08761 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.13674 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.12395 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09531 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.13674 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14526 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.14834 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.13797 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.13978 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04147 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22384 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.16513 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.22461 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.18113 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.12654 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35763 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1737 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20144 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.27291 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.24624 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.28104 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.15021 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.25045 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.28782 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.2023 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.2087 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.15104 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.14747 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.24191 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.19867 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.21128 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16149 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18385 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.19777 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22855 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26853 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.13157 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.1835 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.19496 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.14205 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.14736 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.17264 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.20386 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.18898 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.18718 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.20522 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01908 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06919 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03983 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.17902 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26156 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21904 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.09896 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.09961 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.15212 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.14457 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11459 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1578 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.16592 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16552 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14923 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.15862 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04523 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24143 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1993 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.23992 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.20399 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14521 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37259 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19708 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21238 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.28223 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.25513 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29479 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.15773 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.26299 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.29626 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.21013 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.21992 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.16176 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.15638 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.24991 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.20991 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.22169 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17585 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.20229 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.21592 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24718 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29352 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.1452 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.20262 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21176 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.15991 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.16657 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.18643 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.22099 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.20811 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.20466 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.22511 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02004 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07125 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04098 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.18203 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26425 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22234 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.10153 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.10167 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.15446 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.14798 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11815 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.16139 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.16891 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16812 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.15075 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16196 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04609 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24367 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20472 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.24254 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.20687 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14834 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37391 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20047 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21439 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.28331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.25622 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29655 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.15938 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.26467 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.29754 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.21156 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.22164 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.16351 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.15793 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.25105 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.21146 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.2232 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17821 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.20584 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.21837 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24924 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29642 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.1477 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.20558 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21446 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.16273 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.16973 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.18839 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.22339 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.21089 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.20723 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.2278 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0212 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07327 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04238 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.18448 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26632 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22531 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.10449 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.10439 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.15688 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.15136 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.12178 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.16485 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.17159 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.17065 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.15229 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16512 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04713 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24579 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20915 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.24506 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.20926 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.15164 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37506 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20309 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21653 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.28441 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.25735 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29838 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.16076 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.2665 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.29881 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.21299 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.22343 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.16525 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.15966 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.25229 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.21316 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.22495 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18055 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.20921 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22078 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25113 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29883 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.15019 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.20813 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21698 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.1654 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.17293 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.19038 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.22536 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.21353 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.20975 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.23015 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00552 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0195 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01332 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.09384 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.12372 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.09116 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.04433 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.04368 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.07396 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.05773 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04728 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.06201 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06523 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.07894 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.08097 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.07035 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.02461 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.12995 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06605 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15329 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.07957 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.05589 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.07478 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.12456 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.20108 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16766 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.197 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.10698 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.17762 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.2106 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.14656 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.14485 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.09628 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.09327 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.17266 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.13907 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.14176 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.09553 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.11187 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.11326 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.12714 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.1454 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.07262 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.10438 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.11325 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.06827 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.07679 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.10408 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.11452 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.10763 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.10957 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.12374 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01332 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05367 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03186 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.1582 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.22918 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1706 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.08168 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.0841 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.13898 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1091 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.08541 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.12634 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.1326 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.14386 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14913 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.13386 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04333 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23116 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13758 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.22773 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.18155 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.11011 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35883 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1477 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20781 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.29459 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26071 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29555 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.15723 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.26412 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.31769 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.22244 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.21485 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.15745 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.1673 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.26355 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.21237 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.23123 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17113 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18292 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.1993 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22606 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25654 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.13244 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.18761 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.20087 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.13987 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.14272 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.18027 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.21181 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.19507 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.18636 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.20593 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02011 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07614 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04277 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.19502 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28125 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22759 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.10283 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.11103 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.1667 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1381 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11696 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.16189 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.1719 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.17856 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.18433 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16674 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.05217 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27488 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18212 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.26008 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.23836 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14481 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42068 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19914 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.24248 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.34483 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30825 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.34338 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.18558 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.30336 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.3539 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.25522 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.25334 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.19547 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.20233 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.31408 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.25529 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.27488 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20881 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.2258 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.24206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28751 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31295 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17122 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.23377 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.24325 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.1921 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.18571 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21794 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26102 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.23814 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23368 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.25506 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03354 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11383 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06825 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25033 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35559 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29917 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.13838 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.15336 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.22201 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.20049 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.16176 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.21452 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.233 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.23358 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.24615 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.227 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06896 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.34081 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26621 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.31275 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32188 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.2002 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48914 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27352 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29649 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.39655 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36522 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4033 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.22528 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.36122 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.40629 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.29921 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.30567 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.2436 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.24674 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.36246 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.30288 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.33372 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2734 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.28734 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30493 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3646 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39087 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.22242 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.30333 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.30501 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.25617 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.25347 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.28036 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.32661 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.305 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.3068 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.32193 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08346 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21849 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13339 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39243 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52347 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4807 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.25784 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.26075 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.35562 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.35919 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.32234 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36413 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38896 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37668 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40539 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.38332 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11268 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53366 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49838 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45436 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51921 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.33509 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62447 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44488 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.42617 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.51953 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47626 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54611 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.31963 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.50772 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.50535 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.39918 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.42716 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.37176 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.35804 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.47622 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.45182 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46393 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43181 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.45943 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.46127 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52181 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57839 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.36816 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4903 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.45828 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41897 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42581 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42673 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.48098 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.47414 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.47765 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.4804 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1123 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28418 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17363 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.46886 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58962 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5586 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3223 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.31444 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.4171 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.4298 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40384 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.44228 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45452 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44091 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48069 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.45441 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14158 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60453 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60227 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.52092 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.59439 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40343 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6722 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52335 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49624 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.56151 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52067 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60657 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.37888 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.56421 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55132 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.45387 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.48292 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.43431 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.4151 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52358 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51261 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.51259 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50824 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.54326 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.52561 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58191 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64225 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43902 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57361 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5264 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48982 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49977 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48987 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5498 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.54531 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54879 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54732 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25449 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53307 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.34394 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.67564 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78724 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.78951 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.56962 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55616 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.63246 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.6732 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.65963 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.6887 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66878 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.66508 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.73259 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.6873 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2748 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.81272 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.85893 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.73612 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.83214 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.64488 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.82901 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.73526 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.80265 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.7139 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67491 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80789 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.55954 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7743 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71321 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.63463 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.67811 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64494 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.62756 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6971 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.72472 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70474 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.75373 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.79247 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.73472 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76679 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.82966 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68614 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.81736 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.7362 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.7213 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.76098 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.7095 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.74921 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.76712 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.80074 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.74905 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02224 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05829 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05572 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28328 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29897 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16762 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.15737 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.21614 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.24263 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19336 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.2405 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23295 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22478 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.13891 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.21967 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07994 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30454 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.316 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36053 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21235 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.23089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29086 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.23489 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.30969 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29812 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36756 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.19926 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.34412 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33623 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.27021 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31325 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.2211 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.19204 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.28276 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.2603 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28161 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21661 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.28726 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2766 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2899 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38456 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.18984 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.23401 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27924 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.19912 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.22083 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23377 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26527 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25768 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23156 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.29761 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01841 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05575 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04462 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.16727 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21078 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22263 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.11891 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.11493 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.14878 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.17035 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.13949 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.18521 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.17828 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16469 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.08916 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16494 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04902 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19815 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23844 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.20788 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.17303 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.17565 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.22397 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21953 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.14383 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.16035 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16908 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20387 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.11021 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.18505 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.17995 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.14591 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.17646 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.13078 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.12197 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.15385 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.14263 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.16473 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14296 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18452 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.19035 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19693 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26528 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.13403 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.1635 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.18592 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.14946 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.15559 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.14719 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.18329 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.17947 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.1484 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.19532 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01693 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05177 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03705 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.13348 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.16904 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18542 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.0957 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.09671 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.11414 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1385 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.12006 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.15162 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14964 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.13279 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.06972 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.13107 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03967 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14993 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19653 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15371 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.14462 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14272 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.1694 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18463 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.10536 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.11643 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.12489 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.14792 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.08221 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.13397 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.12739 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.10473 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.12997 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.10058 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.0919 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.11254 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.10563 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.1218 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.10917 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.14472 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.15072 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.15988 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20846 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.10643 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.12916 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.14386 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.12581 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.12999 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.11245 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.14308 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.14288 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.12143 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.15374 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01478 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04226 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03032 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.0945 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.12028 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12857 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.06777 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.07074 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.08253 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.10369 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.08853 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.10843 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.10762 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.09273 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.04771 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.09682 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.02685 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.09707 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14887 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.09925 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.10479 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10426 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.10639 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13089 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.06843 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.07037 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.07808 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.09129 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.05306 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.08412 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.07775 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.06446 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.08148 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.06582 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.05873 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.06774 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.06614 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.07703 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0756 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.10022 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.10178 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.10959 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.13964 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.07354 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.09044 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.09722 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.0896 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.09549 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.07838 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.09714 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.10007 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.08608 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.10547 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00788 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01756 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0123 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.03323 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0394 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04339 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.02746 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.02608 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.0299 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.03978 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.03736 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04019 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03784 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03279 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01657 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03639 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.01005 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03139 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.05709 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03229 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.03532 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.03836 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.02946 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04309 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.02131 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.02015 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02153 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02716 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.01706 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02575 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.02162 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.01918 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02526 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02142 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.01891 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01926 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02143 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02347 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02606 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.03612 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.03406 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0343 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04396 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02622 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.03249 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.03278 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03279 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03539 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02596 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.03216 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.03493 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.03017 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.03568 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00541 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01117 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00795 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.02016 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02241 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02521 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.01727 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.01608 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.0179 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.02403 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.02345 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.02452 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.02246 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.01967 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00976 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.02217 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.0065 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01801 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03437 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.01914 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02053 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.02349 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01584 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02513 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01265 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01191 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01551 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.01054 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.01466 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.01222 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.01127 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.01464 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.01282 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.01124 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01092 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.01258 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.01349 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01557 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.02209 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.01981 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0193 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02477 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.01591 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.0193 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.01937 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.0197 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.02129 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.01511 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.01864 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.0207 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.01788 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.02083 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00121 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0019 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00156 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00302 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00351 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00304 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00288 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00289 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00378 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00388 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00384 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00333 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00299 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.0015 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00347 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.0014 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00244 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00475 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00284 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.0028 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00385 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0019 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00202 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00156 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00159 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00219 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.0017 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00214 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.0017 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00172 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00221 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00202 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00185 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00158 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00197 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00205 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00236 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00339 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00286 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00257 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00318 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00252 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00277 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00285 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00301 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00323 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.0023 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00258 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.003 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00266 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00295 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02224 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05829 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05572 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28328 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29897 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16762 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.15737 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.21614 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.24263 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19336 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.2405 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23295 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22478 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.13891 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.21967 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07994 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30454 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.316 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36053 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21235 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.23089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29086 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.23489 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.30969 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29812 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.36756 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.19926 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.34412 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33623 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.27021 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31325 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.2211 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.19204 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.28276 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.2603 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28161 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21661 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.28726 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2766 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2899 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38456 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.18984 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.23401 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27924 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.19912 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.22083 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23377 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26527 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25768 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23156 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.29761 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03192 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08871 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07779 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.30911 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35384 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36672 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.21371 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.20768 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.27091 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.29216 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24916 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30788 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.2933 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28573 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.174 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.28107 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.09641 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37177 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38856 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.41674 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.28695 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.28801 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42968 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35803 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.27759 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.36341 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35818 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43428 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.23702 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.39865 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.40181 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.32265 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.3691 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.27119 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.25175 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34046 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.31296 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.35008 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27762 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.35613 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.33997 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35932 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45459 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.24203 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.29937 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.34564 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.26131 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.28213 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.28915 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.33488 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33415 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.28463 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36494 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03572 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09749 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08455 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.32346 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3672 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38328 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.22381 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.2218 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.28316 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30363 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.26738 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.32187 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31014 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29842 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.18332 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.29401 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.10372 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38601 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40489 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.42948 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3035 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.29968 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44257 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37621 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.28878 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.37862 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.37203 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44547 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.2461 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41384 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.41417 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.33387 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.3816 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.28604 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.26466 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.35598 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.32841 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.36296 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2904 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3732 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.35675 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37696 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4691 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.25529 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.31535 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.3604 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.27989 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30174 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.3013 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35058 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.34902 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.30148 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38225 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04047 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10457 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09182 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3344 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37726 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39437 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23296 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.23259 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29475 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.31682 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27987 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33205 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.32012 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.30859 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.19224 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3079 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.10942 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39614 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41795 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.43964 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.31621 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31189 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44912 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38697 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29614 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.38784 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38095 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.45466 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.25346 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.42464 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42277 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.34365 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39074 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.29647 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.27312 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.36368 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.33837 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.37362 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3024 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3843 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36707 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38877 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47859 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.26587 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.32701 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.37153 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.29142 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.31532 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.31319 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.36201 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36132 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.31363 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39251 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04498 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10995 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09722 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34227 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3844 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40264 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24105 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.23992 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30316 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.32621 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.28975 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.3403 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.32858 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.31672 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.20052 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31664 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11455 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40514 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42747 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44686 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32515 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31989 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45413 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39413 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30237 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.39488 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38666 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46125 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.25999 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.43205 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42841 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.34976 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39787 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.30505 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.28013 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.37039 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3473 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.38097 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31119 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.39333 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37434 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39579 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48553 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.27426 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.33607 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.37886 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.30121 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.32372 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.32112 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.36876 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36913 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.3225 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39893 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04566 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11102 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09815 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3432 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38511 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40333 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.2421 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24089 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30392 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.32704 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29073 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34126 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.32931 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.31762 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2017 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31736 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40589 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42824 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44752 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32583 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.32089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45464 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39488 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30318 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.39541 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38722 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46197 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.26105 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.43266 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42903 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.35052 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39856 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.30594 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.281 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.37114 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3482 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.38162 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31205 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.39402 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37506 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39646 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.486 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.27518 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.33695 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.37954 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.30204 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.3245 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.32195 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.36951 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36998 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.32334 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39963 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04645 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11191 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09895 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34377 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38559 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40383 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24299 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24178 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30457 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.32774 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29128 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34192 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.32987 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.31824 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.20245 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31807 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11617 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40639 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42862 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.448 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32642 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.32151 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45506 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39536 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30401 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.39591 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38774 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46249 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.26179 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.43323 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42953 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.35116 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39909 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.3066 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.2817 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.37167 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.34879 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.38223 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31266 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.39449 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37562 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39692 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48638 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.27592 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.33758 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.38009 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.30268 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.32515 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.32263 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.37007 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.37053 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.32405 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.40019 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47041 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41398 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37705 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35014 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38585 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39206 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3777 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35691 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45047 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42601 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33067 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37907 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.39033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3877 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37044 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49074 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46605 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35831 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42266 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53642 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42145 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41025 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52332 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50971 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41274 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49632 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52882 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62616 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47514 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49269 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56774 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56482 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48594 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54326 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52235 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54822 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64408 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5081 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51498 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57492 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57291 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5067 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5734 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66224 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53453 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54367 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54358 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58119 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57913 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52603 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.13005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.13796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.19529 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.19077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.205 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16581 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27671 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15838 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2151 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21728 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.28695 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.26647 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.29177 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24722 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4257 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38093 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24966 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25825 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27759 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.37691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29973 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31517 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.28022 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44839 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40723 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28469 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.30805 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28963 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32247 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32523 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33467 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30914 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4619 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42689 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31749 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35215 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33105 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36063 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35505 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34113 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47237 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44245 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34279 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33588 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46812 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3583 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34464 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47301 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44338 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3459 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35909 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33887 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46992 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3568 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36104 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34695 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47335 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44381 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34711 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.13037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.13005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.13796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.19529 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.19077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.205 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16581 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27671 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15838 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.24581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25053 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33513 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.38038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29787 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33983 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30626 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49036 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30108 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.32888 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40697 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36344 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39783 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38257 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58012 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39145 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47084 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42741 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49919 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50879 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4509 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48077 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48526 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71888 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6998 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52852 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73487 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7008 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73785 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.91165 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.91617 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.77622 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8316 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.84531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.79774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.83769 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96019 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87686 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.99457 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.9778 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.9881 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99909 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47041 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41398 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37705 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35014 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32733 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.26479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28075 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.25627 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26594 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.17403 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21464 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24183 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.27327 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.27515 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.20113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.32663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.19032 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21694 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.12369 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.15668 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19272 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.18136 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.18931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.13042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.22147 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.14107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.12043 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.14536 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07189 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.09733 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.13585 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06553 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06142 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.05931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.06793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.04387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.03704 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04678 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01823 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02659 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04134 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03506 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0231 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02142 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02642 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01404 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02308 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00424 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47041 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41398 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37705 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.3494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35014 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54004 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53501 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.64855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47541 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4257 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4456 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42437 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5534 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55321 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50977 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49126 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44839 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46474 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4423 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56534 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56334 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57128 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66908 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52105 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50542 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4619 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48253 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45934 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57244 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56928 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53285 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67215 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52803 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5121 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47237 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49024 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46714 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56996 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57725 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50677 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52863 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51282 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47301 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49069 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46788 } ] }, { "config": { "retrieval_model": "bce-embedding-base_v1", "retrieval_model_link": "https://huggingface.co/maidalun1020/bce-embedding-base_v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:20:07Z", "is_anonymous": false, "revision": "7f66610592495fa931ff706cb63b1bd4" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57308 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57021 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57748 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52899 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51303 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47335 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4908 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46815 } ] } ]