eval_results
/
AIR-Bench_24.04
/bge-en-icl few shot
/NoReranker
/results_20240727062212-530e717eaf3f87343734ac29a74a25e6.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28595 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52478 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57586 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5123 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66416 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52166 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54716 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25778 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52614 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64069 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53295 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52726 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60972 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45921 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51407 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26363 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53122 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62405 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54944 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54593 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62225 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46566 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52026 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28291 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56017 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64503 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58847 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57156 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64935 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50037 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5511 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33352 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62153 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7236 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64563 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60406 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68519 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56528 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60672 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34854 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63221 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73327 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65504 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61218 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69334 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5813 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61805 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38257 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64723 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74428 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66958 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62902 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70564 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60151 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63532 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11269 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23421 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19291 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26556 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32853 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22591 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26502 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17249 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37126 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36467 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41271 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45344 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51168 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32883 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37327 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1974 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42287 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45671 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4882 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54555 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3649 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41522 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22068 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47466 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53656 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49112 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51537 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57043 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39788 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45328 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24114 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50593 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58622 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5164 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52943 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5852 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42504 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47889 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24329 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.508 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58845 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51813 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53049 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58651 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42786 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48103 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24501 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50906 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58947 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51919 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53115 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58727 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42933 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48231 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11269 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23421 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19291 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26556 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32853 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22591 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26502 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20159 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42291 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40032 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46842 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50767 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55979 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38215 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4298 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2536 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51123 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5209 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56172 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57996 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62945 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46086 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51638 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32115 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62449 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67598 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66516 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65174 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7008 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56093 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6179 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47545 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79453 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87348 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83496 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75763 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81416 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75671 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77515 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54397 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.83791 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.91003 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87495 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80089 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85053 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82625 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82106 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75932 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.92508 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.96801 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.9613 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.92961 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.92516 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.94611 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.91822 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28595 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52478 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57586 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5123 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66416 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52166 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54716 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19767 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39798 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56175 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38586 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31525 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37387 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33218 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35735 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16036 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32045 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47318 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29326 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23382 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26786 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25488 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2785 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.10966 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21753 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18477 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.14385 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15947 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16534 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18319 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03394 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05941 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08915 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0493 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03509 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03928 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04752 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05016 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01903 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03143 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04633 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02604 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01835 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02074 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02607 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02689 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00248 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00341 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00285 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00202 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00228 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00295 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00301 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28595 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52478 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57586 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5123 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66416 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52166 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54716 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33417 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60615 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75289 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65368 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57182 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72592 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60091 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62927 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34527 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61864 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76304 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66894 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58179 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73443 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61503 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64453 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35241 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62636 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76807 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67641 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58699 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73818 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62281 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65163 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35822 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63053 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77057 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68041 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5903 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74065 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62723 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65533 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35908 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63076 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77069 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68054 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59075 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74087 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62758 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65556 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35967 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63095 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77077 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68069 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59115 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74103 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62779 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65571 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.56358 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60947 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.64307 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.77446 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.65352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65826 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62097 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59563 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52454 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.39763 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53782 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55749 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.54054 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.56331 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60806 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71238 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.5656 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.615 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.59134 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.58532 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55765 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6577 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.54991 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52143 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5138 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64988 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.55646 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.54231 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.56246 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.61667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.71269 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.57414 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63149 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60995 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.60412 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5736 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69121 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59129 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56405 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54226 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6682 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60005 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.58965 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60503 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66228 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.76058 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61526 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68876 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65472 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64814 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62889 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74447 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63957 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.61175 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59252 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.69707 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68291 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67892 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.73404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.67056 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74031 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71427 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.70441 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.6906 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.7825 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.67915 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.64468 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65301 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.72158 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69253 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.68974 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.70512 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74286 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82742 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.68402 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74759 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.72321 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.71337 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70017 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.78545 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.68417 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.65081 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.66306 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.7242 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.70396 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70135 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71263 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74982 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82914 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.69885 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75305 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73138 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72378 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70999 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.78578 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.69169 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.6537 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.67215 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.72594 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.20285 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.1828 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.19306 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.21421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.28781 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26859 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32858 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32064 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.33179 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26343 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.37303 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3487 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.31701 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.267 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.37415 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.33213 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.34443 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.40886 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.48646 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.42659 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.49131 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.47508 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.4763 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.41384 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.5566 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.47563 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.46423 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.41041 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62048 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.4347 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.40095 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.41446 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.48767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.57555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.48231 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.53946 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.51999 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.52056 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.46903 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60684 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5165 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49344 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45347 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63072 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.48958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.47082 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.48852 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.5521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.65404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.52545 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.58481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.55683 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.55295 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.52065 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.64918 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55003 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51963 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.49349 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6428 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.53229 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.51949 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.53738 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.59335 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.54984 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60949 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.5817 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.57661 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54947 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66814 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5637 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53029 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.519 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64875 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.53429 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.52176 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.54001 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.59506 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.6951 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.55226 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.61081 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58327 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.57822 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55127 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66856 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56446 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.531 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5205 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64899 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.53528 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.52275 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.54074 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.59554 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69529 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.55334 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.61137 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.57911 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.55209 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6686 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56491 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53121 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52114 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64908 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.20285 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.1828 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.19306 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.21421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.28781 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26859 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32858 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32064 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.33179 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.26343 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.37303 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3487 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.31701 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.267 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.43781 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.37841 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.38924 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.46572 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5251 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.46728 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.55548 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53563 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.53291 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.47573 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63793 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56315 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.60658 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47697 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.73494 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.5405 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.50111 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.50674 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.59272 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.66077 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.56399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64599 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.62726 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62481 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.58275 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74615 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.67069 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.69832 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.57918 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.77912 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66842 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.65025 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66349 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72939 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8155 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.67919 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78588 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73195 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72761 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7188 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.8684 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.78647 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.82542 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.70576 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.86747 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.89756 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.89181 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.90649 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.92022 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.9749 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.84779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.93872 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.91489 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.90186 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.90206 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98288 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.93027 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.94758 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.89528 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.97189 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.93646 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.93517 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.95777 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.95833 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.99124 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.90714 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.97145 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.95528 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.94059 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.94346 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.99842 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.9545 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.98195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.94512 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.98795 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.99846 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.9995 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.99571 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.9994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 1.0 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.56358 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60947 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.64307 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.77446 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.65352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65826 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62097 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59563 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52454 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.39763 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53782 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.4711 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.46146 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.47732 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.51524 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.57699 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.42163 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.43286 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.4099 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.39427 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.41439 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.42252 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.32004 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.27102 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.36041 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.24498 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.37168 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.38859 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.40059 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.41888 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.47391 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.32917 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32225 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.3042 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.29516 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.32514 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.3173 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.23988 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.19407 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.27395 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.15582 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.2474 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.27387 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.28077 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.27493 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.31386 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.20863 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.20507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.18824 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.1836 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.21694 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.19811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.14847 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.11869 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.17675 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08675 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06931 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07742 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07787 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07239 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07864 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.0544 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.05155 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04969 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04833 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05678 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.0467 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03583 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02777 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01944 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03616 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.04051 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.04089 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03746 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.04005 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02911 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02673 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02599 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02543 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02973 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02362 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01847 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01442 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02465 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00988 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00382 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00428 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00425 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00386 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00276 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00274 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00271 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00313 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00237 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00147 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00259 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.001 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.56358 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60947 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.64307 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.77446 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.65352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65826 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62097 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.59563 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52454 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.39763 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53782 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.67678 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67518 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69329 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74287 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.84556 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.68204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.74883 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73249 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.7052 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69035 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.76306 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62679 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54055 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.62278 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.62048 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68646 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.69079 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.70779 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.75556 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.69499 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.75488 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74076 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.71662 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.7025 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.77441 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64243 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55865 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64071 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.63072 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.6937 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.69837 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71496 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.75879 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85706 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70181 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76425 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74883 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72505 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71133 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.77993 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65094 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57034 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64963 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6428 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69716 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70121 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71844 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76056 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85786 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.7048 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7664 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75198 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72845 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71347 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.7817 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65509 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57538 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65435 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64875 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69726 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70131 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71862 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76075 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85786 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70519 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76649 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75212 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72857 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71363 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.78188 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65528 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57568 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65472 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64899 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "bge-en-icl few shot", | |
| "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-icl", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-07-27T06:22:12Z", | |
| "is_anonymous": false, | |
| "revision": "530e717eaf3f87343734ac29a74a25e6" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69735 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.7014 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71863 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76086 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85789 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70548 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76653 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75218 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.72862 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71373 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.78188 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65545 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57575 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64908 | |
| } | |
| ] | |
| } | |
| ] |