[ { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.201 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46406 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42487 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67811 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4874 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.492 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38991 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33684 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61783 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16927 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47276 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5413 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18821 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45909 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40807 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62919 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43032 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43056 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43956 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30258 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58206 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63111 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19017 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46137 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49865 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19898 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47178 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40752 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61193 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44157 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40315 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46362 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29054 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60536 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64051 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20372 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4719 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50421 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22576 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50906 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.44016 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63137 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47239 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42131 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49305 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31597 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63709 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67299 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23279 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50382 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53237 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27842 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57815 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52479 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71267 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53333 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52665 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53414 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39011 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67451 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71896 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29869 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56434 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60168 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29578 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59113 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54409 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72383 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54844 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55005 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54365 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4093 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68287 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72721 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32064 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57742 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61549 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33301 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60852 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5681 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73571 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5743 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58204 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56296 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44624 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6943 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73878 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36481 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5957 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63362 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07512 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20711 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13076 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19405 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21668 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1055 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24435 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08781 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36113 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37134 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.07464 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22514 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21508 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12037 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3198 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23537 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36021 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32006 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20139 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36615 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1567 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48401 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50485 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12675 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33034 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3339 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1433 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36798 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.28316 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44037 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35216 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24781 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40065 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18655 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52442 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54623 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14521 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36976 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38345 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41716 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33144 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52182 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29935 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42731 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22049 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55171 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57769 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16287 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40509 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42717 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18873 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45128 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37214 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.57168 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39919 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35014 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44379 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25091 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56809 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59935 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18337 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43117 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46112 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1913 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45366 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37584 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.57421 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40158 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35531 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4451 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2543 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56948 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60078 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18648 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43356 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46384 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19322 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45501 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37781 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.57534 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40338 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35837 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44592 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25685 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57027 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60163 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1892 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43492 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46527 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07512 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20711 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13076 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19405 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.21668 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1055 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24435 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08781 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36113 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37134 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.07464 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.22514 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.21508 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1454 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37134 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.28115 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39505 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37228 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23217 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4431 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18979 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54255 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5582 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17376 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39311 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3847 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19917 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46699 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37153 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51096 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44747 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31232 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52202 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24876 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6315 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63862 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22744 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47949 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47974 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27777 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58812 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49228 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66032 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53236 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43328 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60417 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34368 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71396 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72525 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30638 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58331 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58627 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43392 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77825 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71748 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.86356 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72409 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69902 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73974 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54374 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82823 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85837 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51311 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75914 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77796 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.50936 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.83225 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.79312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.90571 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78962 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78326 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78837 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61728 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.86562 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.89479 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60837 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.81407 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.83306 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.74513 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.93015 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.91878 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.96694 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.93839 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.93849 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.93226 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.81193 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.93379 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.95941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.86576 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.91566 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.93328 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.201 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46406 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42487 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67811 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4874 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.492 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38991 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33684 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61783 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16927 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47276 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5413 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14992 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34159 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35415 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54835 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30892 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39381 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27171 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26907 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36036 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41374 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14847 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32552 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38701 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12882 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28055 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29723 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.45963 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23269 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33084 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2082 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2215 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26763 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.30292 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12132 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25882 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31349 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09589 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19969 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21096 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32147 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14569 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23837 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13073 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15934 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16144 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.18386 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.08596 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.17206 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20891 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03192 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05799 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06503 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08807 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04176 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07887 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03388 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05207 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.04007 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04703 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03175 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04893 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05906 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01852 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03108 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03577 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04607 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01797 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02939 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02117 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02463 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01907 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02646 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.03182 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00247 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00343 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00408 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00486 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00278 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00514 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00202 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00372 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00268 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00272 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.003 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00353 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.201 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46406 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42487 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6789 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4874 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.492 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38991 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33684 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61783 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16927 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47276 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5413 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24727 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54678 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52495 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7468 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56337 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47287 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41856 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69282 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78013 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25111 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56425 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62606 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26135 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56382 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5433 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75724 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57892 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59473 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4864 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43474 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70498 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78885 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26777 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64116 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27063 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55418 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76271 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58785 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60425 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4933 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4472 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70988 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79346 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28116 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59141 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64873 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27717 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57877 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55939 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76515 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59322 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60961 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49824 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45451 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7125 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79526 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29112 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5961 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65284 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27818 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57913 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55981 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59366 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60985 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49878 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45507 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7127 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79539 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2921 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59638 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6531 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27891 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57934 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55999 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76539 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59391 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61001 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4992 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45547 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71281 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79547 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29272 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59651 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65324 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66106 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68378 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40336 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58487 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67289 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60191 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59859 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55882 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60653 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53094 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67121 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56186 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47807 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43986 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41142 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66835 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59501 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63198 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61602 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60853 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54588 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6997 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60074 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52621 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48492 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4257 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61476 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71943 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63763 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65284 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5946 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74776 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62558 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56567 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53768 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48061 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70042 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78192 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72164 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71459 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81979 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7198 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67162 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71189 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67152 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78772 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65555 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61332 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55827 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73236 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72919 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72076 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.79001 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66146 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62033 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60449 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57049 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7929 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74105 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7331 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7007 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69071 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.79091 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66372 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62463 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61025 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58478 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19295 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24825 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26599 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.39159 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32146 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.26363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.1913 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3608 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.46989 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.40044 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42692 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50176 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39845 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56788 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53414 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43241 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37524 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31117 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44314 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53231 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4837 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44782 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.619 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55522 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46363 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.41371 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34253 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50138 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52246 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52624 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56295 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49079 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56558 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48387 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.44521 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38024 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54963 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65131 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56802 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56737 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6919 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5864 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5491 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5881 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52454 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67563 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57229 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49793 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46367 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41022 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55196 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65281 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57044 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69319 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58824 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5897 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52667 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.67605 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57282 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49878 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46533 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41214 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55285 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57136 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57017 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60102 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69349 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58884 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55284 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59067 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52729 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6761 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57294 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49906 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46571 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41308 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19295 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24825 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31161 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26599 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.39159 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32146 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.26363 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.1913 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5152 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42043 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53647 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45373 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64759 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64257 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5413 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47054 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38329 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6287 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52978 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54741 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.658 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.56854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60997 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54908 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74498 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64639 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57601 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45896 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66239 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78093 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69102 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79207 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7139 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67076 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.85842 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81526 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.75124 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70666 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59743 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.9488 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.91149 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91266 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96712 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89153 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90621 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98347 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93447 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.90795 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84948 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.93962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.98521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.95455 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.95243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.97976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.95756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.91683 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.93056 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.95473 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.99392 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.97206 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.9625 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.90842 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 1.0 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 1.0 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66106 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68378 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40336 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56735 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50493 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4216 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59058 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.41083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.40143 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38707 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.43243 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.21419 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.23442 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.26176 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30439 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.32394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46576 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30437 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.32108 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.14779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.17507 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.20429 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22353 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28198 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.29263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28876 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.20479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.18627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.20119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.17554 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20082 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19622 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10564 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.13374 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15154 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07375 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.0498 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04796 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05672 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04659 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02724 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03546 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04504 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04102 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04083 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0269 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02522 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.03 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02359 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01887 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02395 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00386 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00382 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00311 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72271 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6716 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62535 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66106 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68378 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45783 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39763 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.37423 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40336 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71772 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79646 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84918 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72894 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.66485 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.77568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53681 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49182 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.507 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72778 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80472 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76607 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75099 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75322 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73728 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67905 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7827 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5579 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52285 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51391 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52087 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73238 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80927 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77003 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74508 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85955 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6955 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74631 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68684 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.78827 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56831 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53502 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52492 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53171 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73584 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8117 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77309 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7483 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75703 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70075 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74927 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69142 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.79026 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57503 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54227 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53184 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53992 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77322 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76076 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74941 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69155 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7903 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57557 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54262 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53219 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54041 } ] }, { "config": { "retrieval_model": "bge-multilingual-gemma2", "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-25T17:20:30Z", "is_anonymous": false, "revision": "b5d1832e9653688734ad582db008b16e" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73622 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77325 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70137 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74952 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69164 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.79034 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57569 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54274 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53236 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5406 } ] } ]