diff --git a/AIR-Bench_24.04/bge-multilingual-gemma/NoReranker/results_20240725122029-b5d1832e9653688734ad582db008b16e.json b/AIR-Bench_24.04/bge-multilingual-gemma/NoReranker/results_20240725122029-b5d1832e9653688734ad582db008b16e.json deleted file mode 100644 index 3e3f3df152fdbda7880b3e39b9003a7089ad1b4a..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-multilingual-gemma/NoReranker/results_20240725122029-b5d1832e9653688734ad582db008b16e.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.201 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42487 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4874 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.492 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38991 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47276 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5413 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18821 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45909 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40807 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43032 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43056 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43956 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30258 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58206 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19017 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46137 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49865 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19898 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47178 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44157 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40315 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46362 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29054 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60536 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20372 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4719 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50421 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22576 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50906 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44016 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42131 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49305 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31597 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63709 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50382 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27842 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57815 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52479 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53333 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52665 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53414 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39011 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67451 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29869 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56434 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60168 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59113 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54844 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55005 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4093 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68287 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32064 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57742 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61549 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33301 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60852 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5681 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5743 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58204 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56296 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44624 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6943 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5957 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63362 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07512 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20711 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13076 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21668 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1055 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08781 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36113 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.07464 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22514 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21508 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12037 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23537 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32006 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20139 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36615 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48401 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12675 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33034 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3339 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1433 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36798 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35216 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24781 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40065 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18655 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52442 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14521 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36976 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38345 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33144 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37656 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29935 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42731 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22049 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55171 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16287 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40509 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42717 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18873 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45128 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37214 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39919 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35014 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44379 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25091 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56809 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18337 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43117 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46112 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1913 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45366 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40158 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35531 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4451 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2543 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56948 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18648 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43356 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46384 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19322 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45501 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37781 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40338 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35837 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44592 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25685 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57027 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1892 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43492 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46527 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07512 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20711 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13076 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21668 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1055 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08781 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36113 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.07464 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22514 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21508 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1454 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37134 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37228 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23217 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4431 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18979 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54255 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17376 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39311 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3847 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46699 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37153 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44747 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31232 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52202 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24876 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6315 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22744 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47974 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53236 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43328 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60417 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34368 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71396 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58331 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58627 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77825 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71748 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.86356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69902 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73974 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54374 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.82823 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51311 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75914 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77796 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50936 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.79312 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.90571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78962 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.78326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.78837 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.61728 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.86562 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.89479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60837 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.81407 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.83306 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.74513 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.93015 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.91878 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.96694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.93839 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.93849 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.93226 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.81193 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.93379 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.95941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.86576 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.91566 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.93328 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.201 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42487 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4874 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.492 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38991 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47276 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5413 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14992 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34159 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27171 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26907 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36036 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14847 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32552 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38701 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12882 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28055 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29723 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23269 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33084 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2082 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2215 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26763 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25882 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09589 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19969 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21096 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.14569 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23837 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13073 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15934 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16144 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.08596 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17206 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20891 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03192 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05799 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06503 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04176 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07887 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03388 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05207 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.04007 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03175 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04893 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05906 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01852 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03108 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03577 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01797 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02939 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02117 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02646 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03182 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00247 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00343 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00408 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00514 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00202 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.003 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.201 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42487 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4874 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.492 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38991 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47276 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5413 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54678 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52495 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56337 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57729 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47287 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41856 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69282 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25111 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56425 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62606 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56382 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5433 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.59473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4864 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43474 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70498 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58202 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27063 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55418 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58785 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60425 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4933 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70988 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28116 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59141 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64873 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27717 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57877 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59322 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60961 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49824 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45451 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7125 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5961 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65284 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27818 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57913 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55981 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59366 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60985 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45507 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7127 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79539 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2921 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59638 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6531 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27891 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57934 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55999 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59391 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61001 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4992 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45547 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71281 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29272 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59651 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65324 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53094 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41142 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48061 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71189 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79001 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57049 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73278 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26599 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1913 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50176 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39845 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31117 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44782 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34253 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50138 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5881 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52454 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41022 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57044 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5897 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41214 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41308 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26599 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1913 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38329 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6287 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60997 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54908 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45896 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.85842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.75124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59743 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.84948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.98521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.95455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.95243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.97976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.98868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.95756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.91683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.93056 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.95473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.99392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.98394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.9625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.90842 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 1.0 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 1.0 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38707 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30439 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30437 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.29263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17554 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15154 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05672 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04504 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03799 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.04083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.03 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02395 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45783 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72894 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.77568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.507 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72778 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73728 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52087 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77003 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53171 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69142 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74941 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69155 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-multilingual-gemma", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000", - "timestamp": "2024-07-25T12:20:29Z", - "is_anonymous": false, - "revision": "b5d1832e9653688734ad582db008b16e" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5406 - } - ] - } -] \ No newline at end of file