eval_results
/
AIR-Bench_24.04
/ShortV3
/NoReranker
/results_20240603071524-657b15437977c355bd73848dd174a7d4.json
[ | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17737 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25027 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21994 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45086 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3571 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1691 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22455 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19166 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40758 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33754 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16967 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21452 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18681 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41504 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33812 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18443 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23091 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20114 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4409 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35882 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23128 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31582 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26041 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48121 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4162 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24476 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34479 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27893 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.49129 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43173 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2818 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39905 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32104 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51259 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45846 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05262 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06443 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24343 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15036 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09209 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10333 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10083 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32139 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22334 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10852 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12511 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11776 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34186 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24893 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1261 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14907 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13677 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36032 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2753 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14363 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18067 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15875 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3745 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29792 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14581 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18601 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16177 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37598 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30051 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14797 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19034 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16438 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37714 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3023 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05262 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06443 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24343 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15036 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11867 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12503 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12272 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37446 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.267 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15795 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17053 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15971 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42618 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32514 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21288 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24442 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21536 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.49415 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39917 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34001 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4597 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.375 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62374 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56305 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39053 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56132 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44376 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6673 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62518 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58089 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.8159 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66188 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.78956 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.76861 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17737 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25027 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21994 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45086 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3571 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14496 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20366 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16177 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25948 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25569 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12139 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17449 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13596 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18535 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20095 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.08869 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1318 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09978 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.114 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13624 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03078 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05238 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03661 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03092 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04202 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0179 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03207 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02175 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0169 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02361 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00265 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00459 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0031 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00209 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00292 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17737 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25027 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21994 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45086 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3571 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23453 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32346 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27904 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52531 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44118 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24847 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34246 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29319 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53743 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45561 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25783 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35718 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30349 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54471 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46367 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26386 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36699 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3114 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5494 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46968 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26444 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36783 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31232 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54975 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47019 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "ShortV3", | |
"retrieval_model_link": null, | |
"reranking_model": "NoReranker", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-06-03T07:15:24Z", | |
"is_anonymous": true, | |
"revision": "657b15437977c355bd73848dd174a7d4" | |
}, | |
"results": [ | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26513 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36822 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.313 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.55005 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47059 | |
} | |
] | |
} | |
] |