[ { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17657 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46468 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58172 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48065 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50088 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17323 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46946 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60287 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53785 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44857 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58676 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42132 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46825 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18217 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58584 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5489 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46955 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59913 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42856 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4696 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2065 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51455 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60271 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58526 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49893 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62839 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46103 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50417 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25542 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58002 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68681 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63629 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53657 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66509 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52135 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56316 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27185 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59299 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6993 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64669 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54617 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67267 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53839 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5769 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30889 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60999 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71303 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66316 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56537 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68649 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56316 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59558 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0635 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20802 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18443 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2647 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38505 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21118 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.23868 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10739 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32772 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34152 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41516 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37515 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.49424 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30179 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33679 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12768 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37881 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41764 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40741 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52441 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3346 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37091 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15094 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42687 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49405 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49049 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43413 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54733 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3637 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40871 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17059 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45958 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54344 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51243 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4497 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5628 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38784 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43423 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4619 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54628 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51424 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45097 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56404 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39077 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43661 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1749 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46317 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5476 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51544 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45178 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56494 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39249 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43799 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0635 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20802 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18443 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2647 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.2562 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38505 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21118 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.23868 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13642 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38045 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.37578 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47006 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44598 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34953 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39069 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18379 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47639 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48665 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55541 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51998 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60439 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4236 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46413 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25484 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5868 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62816 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65586 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60215 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68238 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57225 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39969 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76881 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.84148 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.81142 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.72716 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79416 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70048 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74322 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47205 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.82293 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.88805 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.85648 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77678 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82755 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.77334 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.80087 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.7081 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.91973 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.95776 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.95157 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.91993 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.90895 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.91785 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.90415 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17657 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46468 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58172 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48065 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50088 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14029 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35419 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52529 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3925 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27844 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35263 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30175 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32552 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1206 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29244 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44111 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2935 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.20934 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.2513 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23281 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25108 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09128 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20428 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.30831 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.18348 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13167 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.15049 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15101 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.17006 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03003 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05766 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08602 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0477 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03355 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03789 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04387 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04804 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01737 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03088 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04533 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02533 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0178 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01999 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02448 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02612 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00236 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00339 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00483 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00282 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.002 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00224 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00288 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00297 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17657 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46468 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65184 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58172 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48065 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50088 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22599 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5507 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72058 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65671 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48339 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71048 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55488 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57684 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23939 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5669 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73075 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66992 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49695 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71888 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5706 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59219 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2483 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57542 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73668 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67727 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50397 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72457 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57884 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60115 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25397 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5802 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74002 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6806 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50804 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72717 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58331 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.606 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25483 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58069 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7402 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68083 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50864 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72739 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58379 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60648 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2556 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58089 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74028 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68101 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50907 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72751 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58409 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60664 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60405 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62817 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45706 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44807 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5042 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47791 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55833 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56742 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58637 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65137 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56405 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53324 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63467 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48496 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5353 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48446 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61637 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56068 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56322 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58823 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60013 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57022 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54756 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65671 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52749 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5846 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51864 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63953 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66442 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65458 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61679 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59813 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58792 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62921 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5661 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66116 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68759 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68477 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70692 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64824 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70867 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67148 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67249 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75652 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63826 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66357 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62816 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68975 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69754 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71652 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76975 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80952 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73067 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71841 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68593 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68401 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76147 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66896 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63917 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69427 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70879 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7267 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72725 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70069 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69206 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7632 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6511 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67044 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65064 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69543 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17703 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.2055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.23428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25407 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.31699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.32711 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.37006 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.30486 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35856 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24777 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47791 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37034 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35978 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44557 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.47314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40651 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46594 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45667 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39218 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.41596 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48265 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38117 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41792 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4564 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50884 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48745 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44027 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57451 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45673 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51622 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43047 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59518 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4971 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48791 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50666 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58785 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62916 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49903 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56021 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55072 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52058 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48698 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61531 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49256 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54001 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46666 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60385 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53088 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58647 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54317 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52033 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63686 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51183 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5507 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61051 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53913 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5332 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55415 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67184 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58787 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57644 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54589 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52244 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63768 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51274 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49507 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61089 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54016 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53411 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55511 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54709 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52308 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63782 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51313 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49586 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61096 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17703 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.2055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.23428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25407 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.31699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.32711 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.37006 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.30486 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35856 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24777 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47791 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39831 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48901 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53547 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50939 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45004 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60425 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49643 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60757 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44499 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71486 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53072 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52394 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60673 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61705 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57337 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54867 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69741 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59991 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55659 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.77108 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66644 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67761 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75661 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65186 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75473 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68514 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68206 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.8277 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.75605 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.83309 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67763 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83936 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.89311 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.88799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.90746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.94415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83683 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.93052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90713 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.85317 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90263 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96554 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.92827 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96167 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87381 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96386 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.93393 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.92971 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.94394 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.97421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.90064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.96604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.95013 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91427 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.95342 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98941 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.96063 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.99085 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.92801 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.99197 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99308 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9965 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99736 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60405 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62817 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45706 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44807 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5042 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47791 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4605 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.49349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49112 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56975 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40278 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.39776 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37545 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39617 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41171 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.28323 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34267 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23829 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.43658 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.31071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.29972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27151 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31038 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29892 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19466 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26835 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15422 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25549 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28791 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30136 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1994 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.19465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.1916 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.17231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20246 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.18757 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.14018 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.1181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08394 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07778 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05093 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04548 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05694 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04584 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03589 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02819 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04616 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01928 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03592 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04071 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03785 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02605 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02487 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.03003 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02346 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01868 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01454 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02437 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00992 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00428 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00311 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60405 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62817 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6129 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58743 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45706 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44807 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5042 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47791 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69075 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6957 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72978 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67851 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74054 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5593 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56133 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59617 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58233 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70477 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70921 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65828 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74005 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70605 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69367 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75203 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57602 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5815 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61214 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59518 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71265 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74422 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71388 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70107 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75958 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59281 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59406 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62366 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60385 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71619 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7166 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74788 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74328 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71681 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70446 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76202 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5969 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59895 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6279 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61051 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71626 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71674 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74791 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79469 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84548 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74872 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71716 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70473 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76215 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59723 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59924 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62821 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61089 } ] }, { "config": { "retrieval_model": "NV-Embed-v1", "retrieval_model_link": "https://huggingface.co/nvidia/NV-Embed-v1", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-23T10:45:42Z", "is_anonymous": false, "revision": "82767a0f8ac571e7e20717a31153bb84" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71634 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71689 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74803 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84548 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67111 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74877 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74357 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71735 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70483 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.76218 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59925 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62836 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61096 } ] } ]