eval_results
/
AIR-Bench_24.04
/ShortV2
/NoReranker
/results_20240531025302-ea0c0e4e668305dd9d49cb3814fdc16c.json
[ | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1921 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20064 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20111 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43955 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32145 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17893 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17767 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17353 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38279 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30897 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1799 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17156 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16962 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39234 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3118 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19997 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18501 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18269 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41824 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33525 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25342 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26398 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.241 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4612 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39691 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27251 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29496 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26088 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47425 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41467 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31682 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36338 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30734 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50057 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44658 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05953 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04601 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05915 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23344 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13288 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0985 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0805 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09092 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30037 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20024 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1162 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09686 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10633 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32019 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22579 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13641 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11538 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12239 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33693 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25113 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15633 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1415 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14308 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35159 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27523 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15933 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14675 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14611 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35348 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2782 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.162 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1519 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14892 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35492 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28029 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05953 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04601 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05915 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23344 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13288 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12103 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10207 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11108 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34831 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24472 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16378 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14014 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14385 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40153 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30301 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23258 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20042 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19674 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46878 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38512 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3762 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40461 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.353 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60726 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.55744 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44871 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51402 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42838 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66423 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.628 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.67788 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.8341 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66833 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.81744 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80282 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1921 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20064 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20111 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43955 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32145 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15164 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15955 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14718 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24082 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23529 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12858 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13842 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12432 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17451 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09705 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1048 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09075 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1081 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13001 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0343 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04522 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03454 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03052 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04219 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02063 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02885 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02083 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.01711 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02406 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00308 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00465 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00313 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0022 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00306 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1921 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20064 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20111 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43955 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32145 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24995 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26387 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25199 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50635 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40671 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26392 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28196 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26476 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5196 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42115 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27623 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29476 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27585 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52816 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43239 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28389 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30652 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28517 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53301 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43911 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28482 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3076 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28619 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53358 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43973 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV2", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-31T02:53:02Z", | |
"is_anonymous": true, | |
"revision": "ea0c0e4e668305dd9d49cb3814fdc16c" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28553 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30817 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28692 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53392 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44007 | |
} | |
] | |
} | |
] |