Datasets:

License:
eval_results / AIR-Bench_24.04 /Linq-Embed-Mistral /bge-reranker-v2-m3 /results_20240608065003-241d248d2ee0a25e71b37657b0528289.json
hanhainebula's picture
Update evaluation results
f31f059
raw
history blame
179 kB
[
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35869
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6518
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75835
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62449
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75101
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57192
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65202
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.32901
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61742
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.71308
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.5861
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55464
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.68706
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.52814
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.61752
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.33207
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61633
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.6943
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60093
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.56965
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.69927
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53686
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.61646
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.34943
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.64232
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.71421
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.63982
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58997
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.7238
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57833
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.64341
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37768
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68427
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.76772
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.68227
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61283
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74101
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.62113
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.67669
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37998
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68784
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.77095
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.68722
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61472
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.62536
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.67926
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37998
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68784
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.77095
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.68722
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61472
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.62536
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.67926
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.14869
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2871
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.21121
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.27796
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.3359
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.43747
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.24308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.31257
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.22686
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.4395
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.40978
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.44723
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.47368
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.58509
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.37912
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45718
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.26117
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50188
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.51029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50149
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51132
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.62685
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.43218
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.5077
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29142
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.56038
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.61232
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.54239
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.537
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.6539
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.47704
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.55261
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30603
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58589
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65154
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56326
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54829
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66264
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.49746
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.57168
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30634
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58659
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65228
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56398
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54848
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66283
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.49805
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.57215
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30634
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58659
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65228
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56398
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54848
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66283
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.49805
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.57215
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.14869
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2871
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.21121
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.27796
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.3359
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.43747
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.24308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.31257
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.25354
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.47785
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.44409
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50397
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52761
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.62459
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.43509
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50954
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.31179
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.57236
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.5763
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60697
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59841
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.69786
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53115
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.59588
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37763
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68632
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74279
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.71761
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.66084
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.76442
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.65191
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.69522
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.45639
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.79877
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.87373
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.84514
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.73514
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.81549
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.78049
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.78388
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46751
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.81389
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.88696
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.86978
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74635
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.822
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.80206
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.79505
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46751
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.81389
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.88696
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.86978
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74635
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.822
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.80206
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.79505
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35869
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6518
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75835
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62449
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75101
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57192
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65202
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.25338
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.4653
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63043
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.4382
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.34154
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.42907
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40092
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.44073
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.20389
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.37038
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.53369
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.33486
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.25211
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.30909
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.31358
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.34025
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.13448
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.24659
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.3715
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.20785
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.15054
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.17985
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.20231
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.21658
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.03386
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.0601
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.08928
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.05019
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.03444
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.0395
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.04935
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.0512
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.0172
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.03059
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.04517
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.02564
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.01736
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.0199
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.02511
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.02598
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.00172
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.00306
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.00452
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.00256
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.00174
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.00199
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.00251
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.0026
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35869
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6518
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75835
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62449
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75101
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57192
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65202
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.40394
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.71262
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.81432
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70289
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59548
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.79463
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.65386
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.72466
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41166
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.7207
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82109
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.71446
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.60314
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80135
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.66386
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.73433
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41634
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72612
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82466
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.72134
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.6066
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80409
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.6712
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.73861
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41844
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72824
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82595
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.72336
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.60862
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80514
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.67398
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.74029
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41858
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72835
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82602
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.72359
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.60876
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8052
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.67423
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.74034
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41858
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72835
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82602
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.72359
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.60876
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8052
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.67423
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.74034
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.74855
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72673
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69577
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72829
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72312
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63115
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62703
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52454
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.60224
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51004
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.69643
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67547
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71339
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72342
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.78542
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.63017
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.66801
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.6484
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.67493
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.58009
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62122
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.57353
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53138
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57344
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6451
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.69143
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67005
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.70365
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.73429
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.77341
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.63826
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.68656
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.67714
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.69224
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60166
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.66655
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.61279
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58198
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.59548
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.67189
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.73182
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.71907
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.74568
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.78478
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.82105
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.67773
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.7433
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72518
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.73743
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.65133
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71795
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66733
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.62399
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.64361
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.68661
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.78157
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77491
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79306
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82737
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72008
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78388
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77385
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77045
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71107
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75515
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.70412
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.66343
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69469
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.71695
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7837
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77729
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79466
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82939
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86991
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72584
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78565
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77306
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71423
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75864
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.70779
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.67032
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.70013
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.72026
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7837
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77729
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79466
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82939
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86991
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72584
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78565
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77306
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71423
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75864
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.70779
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.67032
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.70013
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.72026
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.25134
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.2264
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23649
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.28242
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.31286
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29227
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34478
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.35488
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.38226
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.27017
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.35091
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.35187
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37339
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.28568
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51004
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.4749
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.42146
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.45807
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.51243
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.54779
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.4809
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.53451
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.52648
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.55231
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43621
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.52234
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.4919
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.48446
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.45524
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61379
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56187
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.52165
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.55155
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.60794
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.63871
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.5458
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.59194
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.58643
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60595
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.49911
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.58233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53393
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52089
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.50401
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62885
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.63037
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.61706
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.64708
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.68821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.72578
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.64308
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63019
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64448
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.54991
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62652
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.57307
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.54306
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54596
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63519
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66139
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65356
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.67869
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71525
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75823
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.61465
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.66422
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65309
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66182
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.57807
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64321
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58711
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55561
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.56929
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6426
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66184
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65403
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.67899
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6155
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.6646
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65336
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66227
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.57874
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64372
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58757
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55638
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57002
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64291
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66184
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65403
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.67899
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6155
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.6646
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65336
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66227
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.57874
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64372
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58757
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55638
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57002
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64291
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.25134
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.2264
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23649
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.28242
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.31286
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29227
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34478
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.35488
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.38226
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.27017
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.35091
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.35187
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37339
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.28568
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51004
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.52287
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.45955
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.50057
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.54815
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.58249
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.53126
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.61166
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.5812
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60272
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48739
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.59837
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.59663
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58012
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52493
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.73494
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.64955
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.5931
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.63638
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.69361
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.70853
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.63198
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.71083
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69289
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.70344
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60494
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.72842
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.69265
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.68793
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.62363
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.7992
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.79145
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77238
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79904
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.84463
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86426
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.84199
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.80291
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80913
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.72982
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.84761
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.82339
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.80218
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.74286
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.84337
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92657
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.92439
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.92362
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95895
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.98288
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.86849
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.96159
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.95057
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90325
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.9147
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.96878
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.95178
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.90808
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.97189
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.93524
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.9349
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.93082
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.96858
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.98868
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.89719
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.96931
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.96148
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.91485
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.92804
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.98446
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.97485
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9911
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.93665
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.99197
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.93524
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.9349
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.93082
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.96858
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.98868
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.89719
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.96931
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.96148
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.91485
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.92804
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.98446
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.97485
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9911
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.93665
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.99197
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.74855
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72673
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69577
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72829
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72312
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63115
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62703
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52454
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.60224
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51004
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.59345
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.59359
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.61144
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.60472
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.6404
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.47619
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.47981
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.45005
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.45968
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43898
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.40901
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.33742
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.26113
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.4099
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.24498
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.47283
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.4991
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.49882
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.49204
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.5125
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.37083
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.35662
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.34398
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.34462
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.35191
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.31784
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.2546
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.19525
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.30756
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.15984
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.30145
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.34024
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.34053
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.32094
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.33777
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.23125
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.22592
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.21289
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.20941
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.22787
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.1973
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.16074
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.11573
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.19412
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.08434
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.07133
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.08072
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.07988
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.0744
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.07929
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.05542
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.05318
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.05171
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.04882
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.05749
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.04573
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.0373
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.02813
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.04773
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.01944
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.03598
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.04069
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.04018
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.03743
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.03992
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.02833
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.02685
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.02605
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.02476
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.02921
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.02332
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.01899
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.01457
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.0244
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00992
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.0036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.00407
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.00402
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.00374
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.00399
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.00283
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.00268
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.00261
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.00248
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.00292
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.00233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.0019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.00146
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.00244
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00099
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.74855
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72673
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69577
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72829
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72312
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63115
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62703
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52454
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.60224
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51004
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_3",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.81021
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.7983
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.82101
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.853
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90851
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73016
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79296
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79225
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80332
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71129
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71532
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.6498
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.56578
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69188
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61379
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_5",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.81773
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.8031
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.82722
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86421
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91164
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73671
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79845
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.80458
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81125
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.72468
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73099
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66375
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58729
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.70252
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62885
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_10",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82203
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.80912
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83029
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86606
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.9142
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74164
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80178
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.80789
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81503
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.72863
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73574
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66965
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59848
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.70825
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63519
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_50",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82406
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81059
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83243
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86704
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91457
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7439
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80332
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81021
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.816
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.73237
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73888
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.67382
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.60376
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.71202
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6426
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_100",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.8241
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81063
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83247
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86715
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91457
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74417
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80335
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81032
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81604
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.73244
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73897
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.67394
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.60428
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.71227
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64291
}
]
},
{
"config": {
"retrieval_model": "Linq-Embed-Mistral",
"retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1000",
"timestamp": "2024-06-08T06:50:03Z",
"is_anonymous": false,
"revision": "241d248d2ee0a25e71b37657b0528289"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.8241
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81063
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83247
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86715
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91457
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74417
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80335
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81032
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81604
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.73244
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73897
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.67394
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.60428
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.71227
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64291
}
]
}
]