eval_results
/
AIR-Bench_24.04
/SFR-Embedding-Mistral
/NoReranker
/results_20240530034600-0691134c9967271152356c39d962ffaf.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22376 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50743 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64963 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61043 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52744 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52224 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52783 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21203 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49094 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58971 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5533 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53189 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60785 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44421 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48283 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21545 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49672 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57294 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55921 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5448 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61042 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44673 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4833 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23267 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52209 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58765 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56941 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63455 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47746 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51267 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28013 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58773 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67361 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63944 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6024 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66977 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53982 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56579 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2933 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60066 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68692 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65121 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6102 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67801 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55619 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58052 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33106 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62052 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70377 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6692 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62854 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69368 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58031 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60098 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08395 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23615 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28535 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34612 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40842 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23567 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26359 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.13809 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35467 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34016 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43586 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46204 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.516 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32587 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35608 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15928 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39989 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41159 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47439 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49148 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54045 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35641 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39008 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1799 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44288 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4827 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50151 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51594 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56091 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38363 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42339 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19852 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4747 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53092 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5225 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52967 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57484 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4075 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4456 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20054 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47705 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52449 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53077 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57618 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41039 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44813 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2024 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47847 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53555 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52577 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53152 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57719 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4121 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.44959 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08395 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23615 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28535 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34612 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40842 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23567 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26359 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16646 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39611 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37056 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48249 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5068 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55048 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3627 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40159 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2108 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47489 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47636 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5571 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56707 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59765 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43017 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47049 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26767 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57158 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61234 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63984 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63804 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66299 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52342 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56441 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41049 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75166 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79613 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74667 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7727 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71517 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71872 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46625 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80541 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87133 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.84742 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78641 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80908 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78329 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78072 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70472 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.91788 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.95641 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.95025 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.92355 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.90105 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.92394 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.89366 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22376 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50743 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64963 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61043 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52744 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52224 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52783 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16824 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35688 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50673 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39641 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31188 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36093 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31331 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32552 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.13526 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28736 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42352 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28998 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22625 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24852 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23559 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24909 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.09378 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19424 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29581 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17452 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.13817 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1458 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15038 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.16579 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03022 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05629 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04634 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03416 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03654 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04397 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04608 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01715 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03021 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0444 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02486 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01792 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0194 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02449 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02531 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00236 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00338 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00281 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.002 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00221 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00288 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00293 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22376 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50743 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64963 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61043 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52744 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52224 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52783 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.27226 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57703 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71227 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67252 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57729 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7375 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58338 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59432 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28139 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59063 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72334 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68284 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58644 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7428 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59577 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60682 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28708 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59816 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72965 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6899 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59197 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74699 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60487 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61586 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29286 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60337 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73317 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69409 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59536 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74982 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61002 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62049 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29354 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60376 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73335 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69442 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59579 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75003 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61038 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62092 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29431 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60403 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73347 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69458 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59621 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75021 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61061 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6211 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60405 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57658 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57101 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.5625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.57746 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6129 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54645 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56216 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.42638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45658 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.41767 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.54369 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.53275 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.52352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.60966 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.66141 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.51068 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.53709 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.54593 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.53819 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.49891 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56697 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.44903 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49991 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.43831 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55264 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.53908 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.51408 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.50833 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.61163 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.65683 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.51213 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.56383 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.56655 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.55518 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.51162 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61236 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.4889 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54598 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4625 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.58773 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.59287 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.55779 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.54606 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.65476 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69502 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.54981 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.61637 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.58834 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56697 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66411 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.54632 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.58596 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51116 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.61433 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66864 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.6503 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.63159 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.72877 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.77196 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61492 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67251 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.6752 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6493 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.63781 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71204 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60376 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.62834 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58087 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64094 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68086 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66581 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64666 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.73881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.78132 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.63161 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68428 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68505 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66316 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.65128 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.71868 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.61361 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63697 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5946 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64634 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69418 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.6792 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66622 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.74566 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.78526 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65133 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.69399 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.69701 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68266 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66428 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.72181 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.61894 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.64063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60857 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.65146 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21476 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.17194 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.17225 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.22454 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.27101 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.24467 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.28001 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.29437 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.33347 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2451 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32713 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.2647 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.34669 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.2142 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.41767 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.36165 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.32618 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.31364 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.4103 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.44877 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.3828 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.41863 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.43358 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.43741 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.36766 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.47242 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.37947 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.45734 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.33769 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52008 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.41382 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.38065 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.36886 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.48133 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.52252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.42319 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.46741 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.47716 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.47624 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.41263 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.52601 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.41784 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48775 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.37653 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53976 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.47528 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.44088 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.42714 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.54098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.5876 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.46017 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.50531 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.5069 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.50056 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.459 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56416 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45086 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50688 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.41261 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55111 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.5152 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.48798 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.47149 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.58033 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.63024 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.48593 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.52944 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53486 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.523 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.48919 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.5847 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.47125 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51943 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4397 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55673 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51758 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.49132 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.47483 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.58238 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.63248 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.48918 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.53164 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53641 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.52548 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.49161 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58594 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.47264 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52065 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.44163 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55726 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51864 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.49244 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.4767 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.58302 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.63293 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.49057 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.53258 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.53752 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.52701 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.49273 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58622 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.47295 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52088 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4426 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55754 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.21476 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.17194 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.17225 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.22454 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.27101 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.24467 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.28001 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.29437 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.33347 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2451 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32713 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.2647 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.34669 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.2142 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.41767 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.41366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.37531 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.36184 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.46133 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.49091 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.4311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.48507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.48837 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.47398 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.42565 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.55378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46177 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55811 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.40963 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.64659 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51225 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.46526 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.45428 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.57877 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.60925 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.50331 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.59361 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58322 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.55915 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.51651 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.67526 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56481 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.6595 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.49841 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.73092 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.66416 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.61284 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.60054 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.71574 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.74023 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.60493 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.72803 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68413 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.63971 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.65305 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.79506 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.71118 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.76879 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.62048 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.81124 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.86735 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.85828 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.83332 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.92227 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.9441 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.80774 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.89671 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.8919 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.82882 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.86924 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.95182 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.9138 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.93076 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.84565 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.93173 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.91726 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.91996 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.89144 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.96314 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.98045 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.87846 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.9475 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.93719 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.88835 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.92693 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98131 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.96498 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.97577 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.91409 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.96386 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.99152 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.99339 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.99366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.99932 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.99792 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.99966 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 1.0 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 1.0 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60405 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57658 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57101 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.5625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.57746 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6129 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54645 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56216 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.42638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45658 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.41767 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.44316 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.45445 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.44675 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.51622 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.53442 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.37798 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.3784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.37722 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.34588 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.36703 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.36306 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.26892 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.24431 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.30719 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.21553 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.34566 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.36216 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.35799 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.40944 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.43043 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.2881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.29127 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.28123 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.2586 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2847 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.28757 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.20736 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.17864 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.23697 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.14618 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.24104 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.25195 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.24822 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.26667 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.28261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.18542 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.18507 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.17283 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.15699 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.19454 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.18081 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.13528 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.10772 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.1577 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08112 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06717 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07483 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07178 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07139 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07592 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.05119 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.04873 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04801 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04403 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05443 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.0447 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.03571 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02718 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04471 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.01863 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.03555 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.04006 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03855 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03735 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.03957 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02812 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02606 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02529 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02398 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02913 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02324 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01883 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.01436 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02389 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00964 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00379 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00426 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00424 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00386 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00403 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00311 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00276 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00274 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00271 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.00313 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00237 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00195 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00147 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00259 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.001 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60405 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.57658 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57101 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.67552 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73098 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.5625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.57746 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61345 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.6129 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54645 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56216 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.42638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.4184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.45658 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.41767 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.68353 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.66366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.65631 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.75172 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.79665 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.62996 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67277 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.69048 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.67384 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.63434 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.66892 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.52249 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51682 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54528 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.52008 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69986 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67583 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66519 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76293 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.80779 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64038 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.68798 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.70378 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68795 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.64581 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.68676 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.53967 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.53863 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.56069 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.53976 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.70716 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.68615 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.67506 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.81104 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64686 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.69703 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71108 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69352 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.65867 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69453 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55438 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55236 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.57081 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55111 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.7101 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.69018 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.67978 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.77123 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.81385 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65201 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.69994 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71561 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69888 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66304 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69753 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5617 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55845 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5778 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55673 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71034 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.69027 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.67999 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.77136 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.81388 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65234 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.70011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71584 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69913 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66314 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69756 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56213 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55881 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.57847 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55726 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "SFR-Embedding-Mistral", | |
| "retrieval_model_link": "https://huggingface.co/Salesforce/SFR-Embedding-Mistral", | |
| "reranking_model": "NoReranker", | |
| "reranking_model_link": null, | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-30T03:46:00Z", | |
| "is_anonymous": false, | |
| "revision": "0691134c9967271152356c39d962ffaf" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71041 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.69037 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.68016 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.77138 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.8139 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65268 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.70018 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.71591 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69934 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.66325 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.6976 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.56222 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5589 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.57863 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.55754 | |
| } | |
| ] | |
| } | |
| ] |