eval_results
/
AIR-Bench_24.04
/NV-Embed-v1
/mmarco-mMiniLMv2-L12-H384-v1
/results_20240623105056-b352733f8ab48475deb5f38c15359dd9.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28651 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54771 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.699 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56473 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48707 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63115 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49393 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53837 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27574 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55405 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66632 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53817 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50191 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61279 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47475 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52518 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28501 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56489 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66091 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56928 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52238 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63386 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49311 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53831 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30606 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60024 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61297 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54851 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66377 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53582 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57609 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33673 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63954 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74064 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64371 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57581 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68643 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57286 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61435 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34243 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64697 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.747 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58296 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68984 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57872 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6204 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34243 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64697 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.747 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58296 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68984 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57872 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6204 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.10096 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22712 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1841 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23443 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2869 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36662 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19374 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24546 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17189 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37571 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36772 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39578 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41746 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50701 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32557 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36816 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20661 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44026 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4645 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45911 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55072 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38244 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42229 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24009 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50897 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59547 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51372 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49029 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58101 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43266 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47355 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25441 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5312 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62366 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52663 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50096 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59105 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44951 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49215 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25527 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53234 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62491 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52791 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50164 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59157 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45033 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49316 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25527 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53234 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62491 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52791 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50164 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59157 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45033 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49316 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.10096 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22712 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1841 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23443 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2869 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36662 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19374 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24546 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20892 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43547 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40661 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45905 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4773 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57194 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39308 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43324 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27665 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54141 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55258 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58941 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55692 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6599 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50284 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53937 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35065 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67447 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74871 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70793 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63195 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73816 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6239 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6579 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44516 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78662 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85987 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81213 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73391 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81087 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74399 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77248 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47205 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82293 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.88805 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85648 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77678 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82755 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77334 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80087 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47205 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82293 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.88805 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85648 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77678 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82755 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77334 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80087 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28651 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54771 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.699 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56473 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48707 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63115 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49393 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53837 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22654 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43371 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59983 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41945 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32135 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39317 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37936 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38703 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19134 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36072 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52673 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34189 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2453 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29172 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30976 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31447 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1327 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25118 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38682 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21634 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15142 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17406 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20347 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21101 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03334 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05999 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08882 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0488 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0346 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03921 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04772 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0507 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01737 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03088 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04533 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02533 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0178 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01999 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02448 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02612 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00174 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00309 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00453 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00253 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00178 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.002 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00245 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00261 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28651 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54771 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69932 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56532 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48644 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63173 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49393 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53779 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35147 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64188 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77119 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65583 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55026 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71579 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59128 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6362 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36297 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65335 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77957 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67109 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5584 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72502 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60422 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65012 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3678 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65858 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78357 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67629 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56228 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7282 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60983 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65634 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37048 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66103 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67895 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56569 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72984 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61271 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65898 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37074 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66132 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78518 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6793 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56626 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72997 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61302 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65918 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37074 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66132 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78518 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6793 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56626 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72997 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61302 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65918 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.70231 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70871 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69822 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82065 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64583 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68908 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73925 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.43027 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54902 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.64488 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.64074 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.65351 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69619 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.75623 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60198 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.63314 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63388 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66551 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57489 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61029 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.49569 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49058 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5233 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58998 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.65739 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.64099 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.6565 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7604 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61765 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.66779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.67747 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6802 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.60541 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.64964 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.54212 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53119 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.56284 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.61141 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71052 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71004 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71855 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76919 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.81682 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.66812 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.73752 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.74521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.74254 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.67896 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72193 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60562 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.57641 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.61378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64259 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.74839 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75025 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.75935 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70393 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76695 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76661 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71282 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.74844 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.64394 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.6244 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65281 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.66781 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75414 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75652 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76382 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80983 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71145 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76976 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77089 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77009 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72235 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.75258 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65037 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63438 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.66553 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.67508 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.75414 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.75652 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76382 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80983 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71145 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76976 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77089 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77009 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72235 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.75258 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.65037 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63438 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.66553 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.67508 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21844 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.20812 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20821 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.24806 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.29738 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32722 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.33694 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.37243 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.25549 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.34064 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.29308 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.34026 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.25412 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.42128 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.38557 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.40078 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.47378 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5165 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.45115 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.49672 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.50634 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.53716 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.42014 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.50747 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.42361 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.44506 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.41323 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55689 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.52271 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.48371 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.5046 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.56989 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.62284 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.52263 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.56457 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58048 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.59221 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.4944 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56509 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46674 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.47432 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.47435 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.56874 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.61053 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.60402 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.62433 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66834 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.725 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58573 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.62927 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.64232 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64874 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57042 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.62548 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.50917 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49969 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.52215 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58162 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62904 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.62775 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64521 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.6902 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74539 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60051 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64259 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66019 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5851 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63494 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52361 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51312 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53734 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.5872 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62995 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.62886 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64603 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69088 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74607 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60166 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6433 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66072 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.58658 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63559 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52433 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51415 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53897 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58787 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62995 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.62886 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64603 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69088 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74607 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60166 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.6433 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.65385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66072 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.58658 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63559 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52433 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51415 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.53897 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58787 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21844 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.20812 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.20821 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.24806 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.29738 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.26933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.32722 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.33694 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.37243 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.25549 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.34064 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.29308 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.34026 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.25412 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.46866 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.42121 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.4398 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.52459 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.55337 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.49096 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.56699 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.56778 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.58269 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.47877 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58371 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.51494 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53462 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4707 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.68675 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.62316 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56606 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.58741 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66216 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.7072 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60862 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.69761 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.70839 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68115 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62054 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70536 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62921 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.62191 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.59768 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.73896 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78641 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.78459 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79102 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.85011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8727 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.74129 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.85484 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.86294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.82081 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.79108 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.86999 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.78474 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.73937 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.72102 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.83534 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.90628 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.8997 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.92243 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.95371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96895 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.86404 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.94649 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.92941 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.89682 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.90596 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.96883 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.92382 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.93249 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.85924 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.94779 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.93393 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.92971 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.94394 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.97421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.98829 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.90064 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.96604 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.95013 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.91427 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.95342 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98941 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.96063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.99085 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.92801 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.99197 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.93393 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.92971 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.94394 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.97421 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.98829 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.90064 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.96604 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.95013 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.91427 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.95342 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98941 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.96063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.99085 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.92801 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.99197 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.70231 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70871 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69822 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82065 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64583 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68908 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73925 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.43027 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54902 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.5578 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56256 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57298 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.5998 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.46528 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.45258 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.45191 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.45699 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.45173 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.40811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.3047 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.24629 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.38936 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.22892 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.47225 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.48288 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.4929 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.49027 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.52011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.37262 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.35662 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.36359 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.34355 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.37049 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.31622 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.23681 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.17982 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.31036 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.14779 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.31561 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.35345 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.35828 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.33481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.35516 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.24494 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.23577 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.23613 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.22204 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2571 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.21054 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.15583 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.11068 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.20056 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08353 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.07052 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07982 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.0803 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07475 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.0788 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.0556 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.05211 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.05132 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04898 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05792 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04605 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02766 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04644 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01896 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03592 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.04063 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.04071 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03989 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02866 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02654 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02605 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02487 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.03003 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02346 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01868 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01454 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02437 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00992 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00359 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00406 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00407 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00378 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00287 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00265 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00249 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.003 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00235 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00187 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00145 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00244 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00099 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.70231 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.70871 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.69822 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.82065 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64583 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68908 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73656 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62842 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.60811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.43027 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54902 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.46586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.77168 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.77578 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76036 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.82153 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88134 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70982 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77887 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77451 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80063 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.71266 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70631 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55419 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5277 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.62885 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55689 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.77832 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.78463 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.76864 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.82625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88569 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71786 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78873 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78529 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.80829 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.72495 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72036 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57858 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54402 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64384 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.56874 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78234 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.78904 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.774 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.82959 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88603 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72182 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.79117 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78868 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.81283 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73093 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72552 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.58938 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55567 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65014 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58162 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78497 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79047 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77691 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.83156 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88711 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72509 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.79309 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78937 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.81399 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73265 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.7288 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59342 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56347 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65451 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58722 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78524 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79065 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77707 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.8317 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88729 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72544 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7932 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78959 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8141 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73301 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72892 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59383 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56419 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65512 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58789 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "NV-Embed-v1", | |
| "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", | |
| "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", | |
| "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-06-23T10:50:56Z", | |
| "is_anonymous": false, | |
| "revision": "b352733f8ab48475deb5f38c15359dd9" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78524 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79065 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77707 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.8317 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.88729 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72544 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.7932 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.78959 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.8141 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.73301 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72892 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.59383 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56419 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65512 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58789 | |
| } | |
| ] | |
| } | |
| ] |