[ { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20125 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14255 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6269 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45975 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42268 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55516 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5186 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.51813 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56342 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5303 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.58742 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53846 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.54451 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46333 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57618 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52338 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49414 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49467 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72107 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50867 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39826 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41205 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.44681 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.69803 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68234 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67528 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80809 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71522 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.70066 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75678 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73338 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73254 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66026 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74176 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68216 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17762 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48263 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61496 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52928 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54566 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60837 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64512 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59576 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59292 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.661 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58824 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.58778 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60894 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59545 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61758 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12605 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18748 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13745 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.56207 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45483 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40326 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.4873 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.4526 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.47824 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50975 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.45233 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.52536 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50249 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50107 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51679 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.51462 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.46424 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43235 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43446 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61851 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48998 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52052 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4465 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37383 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.44803 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67158 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66228 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64227 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.61011 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.71824 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67348 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65038 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.65027 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.62791 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.64745 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.62692 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65647 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6048 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19843 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.42034 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.56196 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51137 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49688 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.56529 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60225 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55481 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57069 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59577 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54915 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.55663 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.54962 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55421 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.57565 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12956 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19991 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13944 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.55203 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40167 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.46782 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.43364 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.47317 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.49027 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.42319 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.5013 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.48932 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.49145 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5464 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.49679 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.43853 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4442 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40506 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.60576 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51004 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.49841 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47196 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36309 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47065 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68493 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69176 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65259 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.608 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.72014 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68835 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65699 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.6461 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63234 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.65509 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64806 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66161 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.60973 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21226 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41296 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.56143 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52565 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50279 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.56777 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60719 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55295 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.56748 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.58873 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.56144 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56983 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.54515 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56223 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.57168 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14288 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22604 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1575 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.56797 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43424 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48409 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44888 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.49896 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5065 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.43403 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51638 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.51509 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.52048 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58771 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.51478 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.45126 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47483 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42352 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63128 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.55402 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51103 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50083 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39233 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5025 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71285 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72796 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68643 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63419 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75392 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71789 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68912 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.6757 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.6678 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.68291 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67908 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.69485 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64147 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23999 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.4413 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.59538 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56479 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53036 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59973 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64499 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58202 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59996 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.62432 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59644 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.60263 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.57719 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59681 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.6012 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18826 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27814 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20493 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.64281 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57136 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5208 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57573 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.53799 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.58119 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.60529 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.53353 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61227 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5989 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59327 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.62612 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.60517 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54871 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53599 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52803 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.702 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61597 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.61573 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54243 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46883 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54362 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74887 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75677 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7304 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.69026 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.79482 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.75337 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73539 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.73004 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72145 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.72841 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71456 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74145 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69605 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30488 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.52847 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.66148 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6222 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59999 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66189 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.70432 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65046 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.67225 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.69511 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.65421 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.66061 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.64653 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.65491 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.67089 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20209 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29614 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22078 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.65643 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58473 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54036 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.59347 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55838 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59851 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.62526 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.55755 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.6304 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61418 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60762 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.63418 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62302 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.57215 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5512 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5517 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.71495 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.62498 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.63593 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55228 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48712 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.55513 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75473 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76059 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73837 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.70159 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80078 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.75969 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7424 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74071 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73036 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73688 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72173 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74908 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70494 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32747 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.55121 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.67235 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63101 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61441 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.67225 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.7115 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.66301 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.68363 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.70551 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.66307 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.67043 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.65827 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.66642 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68161 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.24435 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3339 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.26014 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.67727 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60246 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56454 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61995 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58688 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.62173 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.64979 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59041 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.65408 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.63513 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.63012 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.64368 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.64523 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.60262 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57697 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58321 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72963 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63824 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.65968 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57094 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51585 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.57928 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76322 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76712 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74911 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.71552 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80888 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.76901 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75098 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75222 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.74329 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74926 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73107 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.75974 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.7186 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37098 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58299 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.6864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64541 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63222 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68607 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.72097 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.67817 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.69685 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.71739 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.67872 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68608 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67449 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.68144 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.69663 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03663 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07575 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03757 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2323 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20666 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12835 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.1527 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.1513 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.17998 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.14424 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11925 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.15053 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.15914 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.19094 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31012 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.17318 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.13716 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21859 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1059 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29325 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21229 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14372 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24903 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10456 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2329 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.45292 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39859 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3788 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33422 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.4256 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.44314 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.36824 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.34291 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.32328 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.38096 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.39544 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.38482 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.34184 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.08007 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.17734 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.24781 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24698 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21451 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.25081 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.291 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.24716 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.22794 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.23893 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.27701 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26902 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25284 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.2835 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.25739 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06495 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12132 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07149 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.35256 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31872 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2308 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26055 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24459 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.28617 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25909 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.21253 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.26842 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.28223 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.30817 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.43827 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.28969 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23891 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32149 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20336 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.41829 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33803 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25817 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37217 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19536 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37305 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.57189 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55785 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51603 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.45804 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.57794 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.56681 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5063 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47755 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.46391 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50565 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.5258 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51985 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46689 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.13435 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25816 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37583 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36418 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3305 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38713 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.43754 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.3678 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.36703 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38092 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40686 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.39914 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.3653 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.40764 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38855 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07997 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14495 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08702 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40631 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36577 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27833 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31205 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28758 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33351 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.31579 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.25772 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.32737 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.34051 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.35812 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47378 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.34119 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.28291 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35407 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24941 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46893 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39893 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.3204 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40789 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23897 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41337 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.60616 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61319 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55827 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.50008 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62329 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60478 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5523 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52626 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.51681 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55135 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56371 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.56389 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5069 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15272 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.29024 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.43042 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41523 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38102 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.44547 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4946 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42012 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4258 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.44526 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.45708 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.45217 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.41357 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45364 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.44166 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09496 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16845 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1037 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.45778 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41388 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32559 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.36759 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33335 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38299 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.38194 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.30868 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.39322 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.40211 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41168 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50337 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3944 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33151 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3779 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30093 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51703 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4536 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39034 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43458 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28427 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.44243 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.63284 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6488 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59169 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53627 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66295 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.63627 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5922 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5703 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.56078 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.58608 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.59093 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.6005 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54189 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16972 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32406 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48465 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46305 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42485 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.49421 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.54765 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.4707 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48502 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.50792 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.49795 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49573 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46462 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.49987 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49374 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1107 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18869 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12045 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49727 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36705 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.41594 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.37655 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42436 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.43657 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.3574 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.44702 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.44688 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44913 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51824 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44128 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.37866 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40048 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35121 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5539 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48519 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.44878 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45165 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31992 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45806 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64909 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66246 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6123 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56347 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68438 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65428 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6161 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59795 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.58796 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60878 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60635 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62309 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56894 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1899 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36022 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51893 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49034 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45919 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52571 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57834 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50735 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52426 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.54877 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52423 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.52485 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50045 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.52921 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.52982 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11263 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19137 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12269 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.50029 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44984 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37074 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.41983 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38078 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42816 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.44118 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.36263 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.45129 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45012 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45203 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51944 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44527 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.38387 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40293 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35642 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.55678 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48689 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.45351 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.453 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32315 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45956 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65015 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66311 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61367 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56578 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68555 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65542 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.61748 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.60014 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.58975 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.61056 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60763 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62452 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.57066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19309 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36488 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.52117 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49206 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46204 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.5277 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.5798 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50992 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52678 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55104 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52595 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.52692 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50295 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.53127 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53204 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1149 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19332 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12485 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.50211 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45117 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37268 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.42216 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38336 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.43028 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.44357 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.36592 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.45348 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45197 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45406 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51996 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44731 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.38696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4047 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35945 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.55808 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48767 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.45596 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3253 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46076 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65082 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66354 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61447 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56695 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.6862 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65608 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.61815 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.60112 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.59079 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.6115 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60838 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62538 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.57173 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19577 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36794 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.52236 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49312 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46348 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52879 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58046 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51118 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.528 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55207 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52721 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.52814 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50436 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.5324 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53347 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03663 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07575 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03757 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2323 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20666 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12835 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.1527 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.1513 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.17998 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.14424 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11925 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.15053 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.15914 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.19094 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31012 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.17318 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.13716 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21859 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1059 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29325 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21229 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14372 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24903 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10456 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2329 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.45292 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39859 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3788 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33422 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.4256 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.44314 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.36824 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.34291 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.32328 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.38096 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.39544 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.38482 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.34184 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.08007 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.17734 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.24781 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24698 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21451 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.25081 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.291 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.24716 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.22794 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.23893 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.27701 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26902 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25284 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.2835 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.25739 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08502 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14579 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09203 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3921 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36872 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27569 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.29402 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28188 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33426 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.29721 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24205 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30146 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.32472 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.3549 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5348 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.33206 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.27639 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37358 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23439 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.4579 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39581 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.28479 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44762 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23484 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4254 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.63699 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61928 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56966 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.51037 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62507 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62025 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.57525 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52083 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.50994 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55447 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.59627 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.56825 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.51739 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1838 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.30673 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.4281 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42518 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3798 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.44245 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49078 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42449 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.42572 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.425 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.46353 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.46377 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.41665 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45913 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43815 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11932 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20216 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12858 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.48456 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46086 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36562 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3811 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.3588 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42606 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3906 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31987 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.39239 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.41957 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44002 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.62907 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42001 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.35002 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45126 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31394 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54473 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51532 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38126 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52958 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31525 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5024 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70809 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72292 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65068 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.58893 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.70343 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69788 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65733 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.60852 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60681 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.63917 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68019 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.64825 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6003 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23738 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.38237 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.52665 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5287 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47717 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.54191 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58588 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51994 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52859 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.53447 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.56475 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56657 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50553 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54945 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53244 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.16675 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27758 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18414 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.59736 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57892 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48515 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.49938 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46665 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54517 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52985 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.43816 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.5312 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5504 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.56381 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.73832 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54043 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.46438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4358 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.65573 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.65031 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51956 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61011 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42725 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.58225 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78382 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81562 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74052 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6773 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.79783 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.78187 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75377 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.7122 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71472 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.72441 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.7637 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74435 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69302 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31355 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48767 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65331 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65106 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58451 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66036 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.71323 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.63938 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66106 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.67304 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.66869 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.67681 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.63201 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.66433 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.65409 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.29323 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43136 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.31498 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.78794 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76858 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71561 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.7291 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.69114 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.75438 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.77016 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.68464 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.76503 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.76499 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.75257 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.87083 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.76851 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.70475 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72819 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70054 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.84572 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.82926 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.77435 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74573 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63266 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.71771 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.88922 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.90427 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86915 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.83604 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.91359 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.88144 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.88221 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.86224 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.86511 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85254 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.8705 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.87906 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.84605 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5171 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.72185 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.8309 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.81608 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77682 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.83492 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.88312 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.81974 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.85117 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.85947 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.83371 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.83673 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.81614 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.82676 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.83913 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.34586 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51001 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.37715 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.83753 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.82502 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.79282 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.79266 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.76364 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.81614 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.83903 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.76745 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.82842 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.82175 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.8055 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.91054 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.83247 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.7848 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.79356 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7862 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.89538 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.86861 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.84409 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.7963 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.70531 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.77505 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.91403 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.92173 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.90378 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.88064 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.93776 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.9074 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.91077 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.90457 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.90108 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.88562 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.9017 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.91156 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.88296 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61509 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.80558 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.87352 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.85195 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.83424 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.87846 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.9131 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.86988 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.89412 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.90026 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.86957 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.874 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.86016 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.87629 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.8806 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.56986 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.75011 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.58792 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.93833 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.92616 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.92 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.92107 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.89906 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.9254 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.95278 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.9162 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.94246 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.92497 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.91425 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.97594 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.93933 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.9202 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.94181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.93801 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.97234 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.95723 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.95245 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.93386 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.85636 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.94624 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.96066 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.96255 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.9634 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.95285 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.98156 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.96129 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.95739 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.96451 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.97037 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.95522 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.95478 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.96962 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.95809 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.86998 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.95665 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.94754 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.93508 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.93217 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.95633 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.97068 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.94869 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.96082 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.96477 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.95434 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.95872 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.9442 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.96302 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.95611 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20125 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14255 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6269 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45975 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42268 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55516 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5186 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.51813 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56342 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5303 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.58742 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53846 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.54451 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46333 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57618 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52338 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49414 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49467 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72107 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50867 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39826 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41205 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.44681 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.69803 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68234 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67528 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80809 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71522 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.70066 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75678 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73338 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73254 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66026 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74176 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68216 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17762 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48263 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61496 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52928 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54566 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60837 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64512 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59576 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59292 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.661 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58824 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.58778 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60894 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59545 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61758 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11095 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14943 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12518 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43745 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.33669 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3515 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.41905 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38031 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3849 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.4501 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40284 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46349 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4359 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40455 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.30026 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42998 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40498 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31064 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39689 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46128 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37266 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.4642 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27655 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33518 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30894 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.37968 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42378 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42014 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.41033 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.47083 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.39517 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.42583 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.45658 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.45159 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.42179 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.37702 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.42926 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.40533 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15211 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32248 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.42965 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36823 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3858 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44296 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.41813 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45157 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.47612 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.39037 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.40191 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40852 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39008 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43511 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09842 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12894 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10796 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.35531 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29411 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.34943 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.31245 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.31799 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.37773 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.33535 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.3895 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.36372 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32923 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2233 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3534 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32986 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23397 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33107 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36003 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.31409 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.21278 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28241 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.23574 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.27247 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.32084 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.30729 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.30923 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.34235 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.28957 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.32032 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.34684 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.34538 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.31662 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.27436 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.31896 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.30198 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1239 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25499 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.3466 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29854 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31403 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34574 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.34715 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.33596 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.36726 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38818 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.30848 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.32251 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.32696 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.30517 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.34742 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07389 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09438 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08075 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.24136 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19675 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20825 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24878 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.21974 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.22398 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.27581 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24214 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.28079 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.2582 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.23212 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.13926 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24645 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23469 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14649 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23893 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2358 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21437 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.28994 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13304 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20028 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.14715 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.16383 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.19327 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.18743 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.19631 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.20993 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.17732 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.20182 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.22078 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.21922 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.1963 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.16517 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.19636 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.19098 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.08643 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.17612 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.23473 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.20102 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20898 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.22691 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.22916 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.228 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.2528 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.26484 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.19855 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2106 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.22332 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.20345 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.2347 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02723 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03148 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02884 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.06996 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05714 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06479 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.07726 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.07072 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.0686 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.0858 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.07954 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.08601 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.0756 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.067 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.03436 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.07646 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07747 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04179 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07857 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.06558 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05699 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.09175 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03451 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.06035 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03782 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.04093 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0443 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04728 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.05331 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.0515 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.04401 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.05149 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.05786 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.05675 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.05022 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.04085 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.04981 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.05135 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0317 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.05962 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.06383 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.05356 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0592 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.06099 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05973 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.0637 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.07037 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.07154 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.05337 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.05654 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.06292 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.05505 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.06571 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01615 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01838 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0172 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.03761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03067 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03565 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.04208 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.0394 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03767 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04703 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04477 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04669 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.04064 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03622 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01808 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.04176 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04368 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02313 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04383 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03505 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02978 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.0501 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01833 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03321 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.02023 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.02136 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02266 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02475 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02859 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02668 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.02301 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02688 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.0307 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02979 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02654 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.02147 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02604 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02705 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01916 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.0341 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.03375 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02815 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.03198 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.0321 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.03099 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.03394 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03724 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03756 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02809 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.03002 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.03357 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02922 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.03474 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00259 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00246 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00261 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00426 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00338 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00407 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00484 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00464 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00434 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00532 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00532 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00524 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00454 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00416 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00192 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00472 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.0052 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00278 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00512 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00381 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00317 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00562 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00205 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00392 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00232 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.0023 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00236 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00268 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00316 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00282 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00247 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00285 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00331 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00323 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00289 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00231 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00281 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00297 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00272 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00416 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00366 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00307 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00353 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00347 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00325 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00371 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00402 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00399 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00311 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00331 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00369 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00319 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.0038 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20125 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14255 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6269 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45975 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42268 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55516 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5186 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.51813 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56342 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5303 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.58742 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53846 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.54451 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46333 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57618 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52338 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49414 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49467 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72107 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51076 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39826 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41205 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.44681 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.69803 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68234 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67528 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80809 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71522 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.70066 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75678 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73338 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73254 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66026 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74176 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68216 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17762 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48263 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61496 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52928 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54566 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60837 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64582 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59576 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59292 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.661 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58824 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.58778 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60894 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59476 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61758 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18066 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24763 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19416 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.70186 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53947 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52185 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.63204 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.60157 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.61584 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.65647 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.61628 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.67047 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.62458 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.63155 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56054 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.661 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.61966 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56869 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57933 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.78698 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.59091 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.6601 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48199 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49804 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.50553 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77247 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75687 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78993 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74895 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86324 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.782 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78381 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.81325 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.7942 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80156 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73659 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.80208 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.74778 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26077 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58092 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.69687 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61676 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62584 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.69233 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.71844 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.68653 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.69346 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73351 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.66743 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68033 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.68831 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.6708 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.70046 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19421 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26213 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20798 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.71505 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55604 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53963 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.64633 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.61778 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.63187 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66985 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.63176 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.6836 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.63789 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64413 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57948 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.67527 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.63252 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58461 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59703 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.79689 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6094 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.6757 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49615 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51746 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.51447 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78093 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76657 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79819 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75881 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86787 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7915 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78945 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.82236 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80312 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80826 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74827 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.80957 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76022 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27777 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.59854 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.70987 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63551 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64076 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.70186 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.72676 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69957 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.70777 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.74758 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68328 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.69417 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.70141 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.68414 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.71261 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20364 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27114 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21913 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.72183 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56584 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55013 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.65409 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.62571 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64069 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.67827 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.64191 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.69172 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.64725 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.65195 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58894 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.68307 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.6402 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59321 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60669 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.80089 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61684 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.68372 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50274 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52782 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.52082 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77113 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80237 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.76218 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86985 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7955 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79341 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.82554 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80759 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.81033 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75284 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.81386 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76516 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29029 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.60876 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71649 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64416 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64859 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.70858 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73369 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.7057 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.71331 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.75335 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68966 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.70202 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.70931 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.69032 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.71975 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.21055 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27791 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22626 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.7248 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57101 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55568 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.65843 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6309 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64473 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.68169 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.64667 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.69492 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.65085 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.65526 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.59279 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.68682 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.64486 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59856 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61224 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.80289 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.62041 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.68764 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50758 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53332 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.52525 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78749 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77275 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80399 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.76473 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.87079 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79672 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79498 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.82697 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80909 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.81166 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75483 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.81563 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76712 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29983 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61365 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71904 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.648 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65277 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.71106 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73662 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.70847 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.7156 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.75557 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69297 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.70433 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.71221 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.69347 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.72249 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.21137 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2789 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22715 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.72499 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57141 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55612 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.65862 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.63118 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.645 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.68188 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.64694 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.6951 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.65108 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.65553 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5931 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.68706 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.64517 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59899 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6125 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.80295 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.62066 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.68785 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50816 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53376 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5259 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78762 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77285 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8041 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.76485 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.87084 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79685 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79507 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.82708 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80921 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.81174 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75501 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.81578 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76729 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30082 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61389 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71919 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64815 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65304 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.71122 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73672 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.70867 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.71573 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.75568 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69313 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.70445 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.71231 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.69376 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.7226 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.21211 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27962 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22775 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.72511 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57163 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5563 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.6588 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6313 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64508 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.68198 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.64703 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.69518 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.65121 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.65566 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.59332 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.68714 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.64525 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59923 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61263 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.80303 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.62088 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.68791 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50859 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53401 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.52648 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.78766 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77294 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80418 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.76492 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.87087 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79691 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79514 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.82714 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80928 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.81183 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75505 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.81583 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76737 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30142 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61404 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71929 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64826 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65319 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.71135 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73684 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.70875 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.71581 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.75574 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69327 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.70456 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.71242 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.69391 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.72268 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6586 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40056 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.585 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60599 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58915 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60248 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72782 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55985 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6063 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52884 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56186 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47669 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41042 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57335 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59428 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58649 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57573 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60821 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54562 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59918 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52625 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42477 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61377 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63968 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63686 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65284 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59468 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62539 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56488 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47961 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69981 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67281 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71157 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67163 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65535 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61221 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55767 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73206 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74237 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72046 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68274 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66125 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61954 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5699 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72211 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74075 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70157 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69082 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66351 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62384 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58418 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.1927 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35466 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26654 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31998 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19037 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3994 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47776 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50165 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39727 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53414 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43068 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31082 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5322 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5308 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44738 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55442 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46266 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34181 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50067 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5218 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57362 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6523 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56294 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49063 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56538 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48262 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37972 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56773 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58797 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52442 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57208 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49663 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40972 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55144 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57004 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60021 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69338 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58958 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52652 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57261 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49753 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41165 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55233 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57097 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57016 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69367 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59055 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52717 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57273 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49781 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41258 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.1927 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35466 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26654 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31998 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19037 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40739 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41797 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56036 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45137 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64257 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53981 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38294 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60997 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54854 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64837 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45856 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66139 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79207 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71479 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81526 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.75124 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5965 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.91297 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96712 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85092 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89153 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90621 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93299 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84948 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.93962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.95455 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.95243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.97976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.91683 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.93056 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.95337 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.97206 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.90842 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 1.0 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6586 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40056 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5025 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50493 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4216 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.40143 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.21419 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.23442 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30345 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4071 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.32394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.4663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30383 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.14699 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.17567 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22297 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28168 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28846 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.20479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.20119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.17581 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20082 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10564 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15126 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07822 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05405 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04796 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05672 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02718 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04504 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04102 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04083 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0269 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02522 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02997 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02395 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00382 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00311 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6716 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79076 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40056 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71672 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75592 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73615 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67708 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72894 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.66667 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53414 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49951 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5056 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72603 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73781 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75122 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73768 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68087 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55442 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52295 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51919 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77052 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7444 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86068 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69741 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74618 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68873 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56543 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53462 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52975 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73408 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74914 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69332 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57215 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5419 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5382 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73433 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7737 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74771 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75737 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70301 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74929 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69345 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57268 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54225 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53869 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:09:53Z", "is_anonymous": false, "revision": "bafcc7e29c407a1663cd82baebf9b8af" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73446 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77373 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74939 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69354 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5728 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54236 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53888 } ] } ]