Update README.md

7a98142 verified 13 days ago

36.9 kB

	---
	license: apache-2.0
	tags:
	- sentence-transformers
	- sentence-similarity
	- feature-extraction
	- generated_from_trainer
	- dataset_size:39780811
	- loss:MatryoshkaLoss
	- loss:MultipleNegativesRankingLoss
	widget:
	- source_sentence: quanto tempo può stare fuori l'anguria prima che vada a male?
	sentences:
	- >-
	Fu allora che la linea Make-up Cover sviluppata da Dermacol fu lanciata come
	una delle prime del suo genere sia in Europa che nel mondo e la licenza di
	questo prodotto fu venduta fino a Hollywood nel 1969. Siamo orgogliosi che
	la bellezza di molte stelle del cinema ha avuto le sue origini da Dermacol a
	Praga.
	- >-
	Risposta completa. Se l'anguria viene tagliata, può rimanere fresca in
	frigorifero per circa tre-cinque giorni. L'anguria tagliata può durare un
	giorno se tagliata e conservata sul piano di lavoro. L'anguria è ricca di
	acqua ed elettroliti. Il frutto è anche ricco di vitamina A, un potente
	antiossidante che protegge il corpo dai radicali liberi.
	- >-
	È più spesso associato ai pomodori, ma l'anguria è in realtà una fonte più
	concentrata. Rispetto a un grande pomodoro fresco, una tazza di anguria ha
	1,5 volte il licopene (6 milligrammi (mg) in un'anguria rispetto a 4 mg in
	un pomodoro). Maggiori informazioni sul motivo per cui il licopene è così
	importante a breve.
	- source_sentence: dove vivono i serpenti a sonagli?
	sentences:
	- >-
	Il bengalese è la lingua nazionale e ufficiale del Bangladesh e una delle 23
	lingue ufficiali riconosciute dalla Repubblica dell'India. È la lingua
	ufficiale degli stati indiani del Bengala occidentale, del Tripura e
	dell'Assam.
	- >-
	I componenti del veleno possono anche cambiare nel corso della vita di un
	serpente, in specie (ad esempio, alcuni serpenti a sonagli del genere
	Crotalus) che si affidano a una serie di animali da preda come giovani
	(lucertole a sangue freddo e altri piccoli esotermici), e un diverso insieme
	di animali da preda da adulti (roditori a sangue caldo).
	- >-
	Dimensioni: un certo numero di diversi serpenti a sonagli vivono negli Stati
	Uniti e hanno dimensioni variabili dal serpente a sonagli dal naso lungo 1
	piede al diamondback orientale lungo da 5 a 8 piedi. Dieta: i serpenti a
	sonagli sono pit vipersÃƒÂ¢Ã‚â‚¬Ã Hanno organi di rilevamento del calore
	situati in fosse vicino agli occhi. Abitat: Vivono in una varietà di
	habitat, tra cui foreste, praterie, arbusti, paludi e deserti, e sono anche
	abili nuotatori. Quasi tutti i rettili, compresi i serpenti a sonagli, sono
	ectotermici (a sangue freddo). Gli ectotermi non possono regolare la
	temperatura corporea come fanno gli animali a sangue caldo.
	- source_sentence: come miscelare correttamente il tè matcha
	sentences:
	- >-
	Il miglior sito per chi ama la lingua Visayan (Bisaya o Cebuano) che offre
	Bisaya English e English Bisaya Translations and Dictionary. Bisaya (Cebuano
	o Visayan) è una delle lingue più parlate nelle Filippine, specialmente a
	Visayas.
	- >-
	È vero che, poiché il matcha è composto da foglie di tè intere frantumate,
	il contenuto di caffeina è leggermente superiore a quello del tè in busta.
	In effetti, il livello di caffeina del matcha può effettivamente eguagliare
	la metà del livello di una tazza di caffè nero. Tieni presente che la
	caffeina non fa male a te in quantità moderate.
	- >-
	Hai solo bisogno di aggiungere circa 1/2 cucchiaino di Matcha per tazza di
	acqua/latte riscaldata. Il tè verde Matcha, soprattutto biologico, è il tè
	più costoso da raccogliere e macinare sul mercato. Ci vogliono giorni di
	essiccazione e macinazione e ci vuole una grande quantità di foglie di tè
	Matcha per creare solo 1 cucchiaino di Matcha in polvere.
	- source_sentence: terapia fisica colleyville
	sentences:
	- >-
	I primi cinque segni precoci di gravidanza. 1 Nausea o malattia possono
	iniziare molto presto per alcune donne - un comune segno precoce di
	gravidanza sarà la nausea mattutina. 2 Avendo bisogno di fare pipì più
	spesso quando si rimane incinta, un segno precoce potrebbe essere la
	necessità di fare pipì di più. 3 Mal di testa - Potresti provare mal di
	testa nelle prime fasi della gravidanza.
	- >-
	Sabato: 8:00 - 12:00. Terapia fisica e riabilitazione sportiva di
	Colleyville. Joel D. Judd, PT, DPT, OCS - Dottore in fisioterapia /
	Specialista clinico ortopedico certificato Boaord. Colleyville Physical
	Therapy fornisce servizi di fisioterapia eccezionali ai cittadini di
	Colleyville dal 2000. Joel e il suo staff sono esperti nell'aiutarvi a
	riprendervi da un infortunio o da un intervento chirurgico.
	- >-
	Programmi e requisiti di formazione del fisioterapista. I corsi di laurea in
	fisioterapia preparano gli studenti a lavorare sul campo con i pazienti che
	necessitano di terapia fisica. La maggior parte degli studenti nei programmi
	di formazione in fisioterapia completa i diplomi di dottorato nel campo, ma
	alcuni possono esercitarsi con i master.
	- source_sentence: di quale sistema fa parte l'insulina?
	sentences:
	- >-
	Un contatore elettrico o un contatore di energia è un'apparecchiatura in
	grado di misurare la quantità di energia elettrica consumata da
	un'abitazione, un'azienda o un dispositivo alimentato elettricamente. I
	contatori elettrici sono generalmente calibrati in unità di fatturazione; il
	più comune è il kilowattora.
	- >-
	1 Arrotolare il flacone di insulina tra le mani due o tre volte per
	miscelare l'insulina. 2 Non agitare il flacone, poiché possono formarsi
	bolle d'aria che influiscono sulla quantità di insulina prelevata. 3 Pulire
	la parte in gomma sulla parte superiore del flacone di insulina con un
	tampone imbevuto di alcol o un batuffolo di cotone inumidito con alcol.
	- >-
	Come i nostri nervi regolano la secrezione di insulina. LA STORIA COMPLETA.
	Il sistema nervoso autonomo, che è la parte del sistema nervoso al di fuori
	del controllo cosciente, svolge un ruolo importante nel rilascio di insulina
	dalle cellule beta nella parte endocrina del pancreas.
	pipeline_tag: sentence-similarity
	library_name: sentence-transformers
	metrics:
	- cosine_accuracy
	model-index:
	- name: >-
	Static Embeddings with BERTino uncased tokenizer finetuned on a subset of
	MMARCO
	results:
	- task:
	type: triplet
	name: Triplet
	dataset:
	name: mmarco dev
	type: mmarco_dev
	metrics:
	- type: cosine_accuracy
	value: 0.9815999865531921
	name: Cosine Accuracy
	- task:
	type: triplet
	name: Triplet
	dataset:
	name: mmarco test
	type: mmarco_test
	metrics:
	- type: cosine_accuracy
	value: 0.9785000085830688
	name: Cosine Accuracy
	datasets:
	- unicamp-dl/mmarco
	language:
	- it
	base_model:
	- indigo-ai/BERTino
	---

	# Static Embeddings with BERTino uncased tokenizer finetuned on a subset of MMARCO

	This is a [sentence-transformers](https://www.SBERT.net) model trained on the mmarco dataset. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

	## Model Details

	### Model Description
	- Model Type: Sentence Transformer
	<!-- - Base model: [Unknown](https://huggingface.co/unknown) -->
	- Maximum Sequence Length: inf tokens
	- Output Dimensionality: 1024 dimensions
	- Similarity Function: Cosine Similarity
	- Training Dataset:
	- mmarco
	<!-- - Language: Unknown -->
	- License: apache-2.0

	### Model Sources

	- Documentation: [Sentence Transformers Documentation](https://sbert.net)
	- Repository: [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
	- Hugging Face: [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)

	### Full Model Architecture

	```
	SentenceTransformer(
	(0): StaticEmbedding(
	(embedding): EmbeddingBag(31102, 1024, mode='mean')
	)
	)
	```

	## Usage

	### Direct Usage (Sentence Transformers)

	First install the Sentence Transformers library:

	```bash
	pip install -U sentence-transformers
	```

	Then you can load this model and run inference.
	```python
	from sentence_transformers import SentenceTransformer

	# Download from the 🤗 Hub
	model = SentenceTransformer("nickprock/static-similarity-mmarco3m-mrl-BERTino-v1.5")
	# Run inference
	sentences = [
	"di quale sistema fa parte l'insulina?",
	'Come i nostri nervi regolano la secrezione di insulina. LA STORIA COMPLETA. Il sistema nervoso autonomo, che è la parte del sistema nervoso al di fuori del controllo cosciente, svolge un ruolo importante nel rilascio di insulina dalle cellule beta nella parte endocrina del pancreas.',
	"1 Arrotolare il flacone di insulina tra le mani due o tre volte per miscelare l'insulina. 2 Non agitare il flacone, poiché possono formarsi bolle d'aria che influiscono sulla quantità di insulina prelevata. 3 Pulire la parte in gomma sulla parte superiore del flacone di insulina con un tampone imbevuto di alcol o un batuffolo di cotone inumidito con alcol.",
	]
	embeddings = model.encode(sentences)
	print(embeddings.shape)
	# [3, 1024]

	# Get the similarity scores for the embeddings
	similarities = model.similarity(embeddings, embeddings)
	print(similarities.shape)
	# [3, 3]
	```

	<!--
	### Direct Usage (Transformers)

	<details><summary>Click to see the direct usage in Transformers</summary>

	</details>
	-->

	<!--
	### Downstream Usage (Sentence Transformers)

	You can finetune this model on your own dataset.

	<details><summary>Click to expand</summary>

	</details>
	-->

	<!--
	### Out-of-Scope Use

	List how the model may foreseeably be misused and address what users ought not to do with the model.
	-->

	## Evaluation

	### Metrics

	#### Triplet

	* Datasets: `mmarco_dev` and `mmarco_test`
	* Evaluated with [<code>TripletEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.TripletEvaluator)

	\| Metric \| mmarco_dev \| mmarco_test \|
	\|:--------------------\|:-----------\|:------------\|
	\| cosine_accuracy \| 0.9816 \| 0.9785 \|

	<!--
	## Bias, Risks and Limitations

	What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.
	-->

	<!--
	### Recommendations

	What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.
	-->

	## Training Details

	### Training Dataset

	#### mmarco

	* Dataset: mmarco
	* Size: 39,780,811 training samples
	* Columns: <code>query</code>, <code>positive</code>, and <code>negative</code>
	* Approximate statistics based on the first 1000 samples:
	\| \| query \| positive \| negative \|
	\|:--------\|:------------------------------------------------------------------------------------------------\|:--------------------------------------------------------------------------------------------------\|:--------------------------------------------------------------------------------------------------\|
	\| type \| string \| string \| string \|
	\| details \| <ul><li>min: 10 characters</li><li>mean: 38.84 characters</li><li>max: 112 characters</li></ul> \| <ul><li>min: 92 characters</li><li>mean: 400.26 characters</li><li>max: 1273 characters</li></ul> \| <ul><li>min: 76 characters</li><li>mean: 383.85 characters</li><li>max: 1071 characters</li></ul> \|
	* Samples:
	\| query \| positive \| negative \|
	\|:------------------------------------------------------------------------------------------------------------------\|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------\|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------\|
	\| <code>è un certificato di nascita uguale a un certificato di naturalizzazione</code> \| <code>No. Un certificato di nascita viene rilasciato dopo la nascita, di solito nella città e nello stato in cui è avvenuta la nascita. La nascita di Barack Obama è stata registrata a Honolulu, nelle Hawaii, per esempio.</code> \| <code>La modifica non può essere effettuata tramite posta. Per trovare l'ufficio più vicino, vedere Office Locator. Quando visiti l'ufficio dell'amministrazione della sicurezza sociale, devi portare una prova della cittadinanza statunitense come il certificato di naturalizzazione o il passaporto statunitense e qualche altra forma di documento d'identità con foto come la patente di guida. Il cambio non può essere effettuato per posta. Per trovare l'ufficio più vicino, vedere Office Locator. Quando visiti l'ufficio dell'amministrazione della sicurezza sociale, devi portare una prova della cittadinanza statunitense come il certificato di naturalizzazione o il passaporto statunitense e qualche altra forma di documento d'identità con foto come la patente di guida.</code> \|
	\| <code>il latte è consentito nella dieta della pancia di grano?</code> \| <code>Se perdi peso con la dieta della pancia di grano, probabilmente sarà per aver fatto scelte alimentari sane e non perché hai evitato il glutine. Non ci sono prove scientifiche che gli alimenti con glutine causino un aumento di peso maggiore rispetto ad altri alimenti. Ma la dieta della pancia di grano non elimina solo il glutine. Vieta anche tutta una serie di altri alimenti, tra cui sciroppo di mais ad alto contenuto di fruttosio, saccarosio, cibi zuccherati, riso, patate, soda, succhi di frutta, frutta secca e legumi. Eliminare il sale è ottimo per la pressione sanguigna. Ma se hai il colesterolo alto o malattie cardiache, potresti voler evitare i latticini ricchi di grassi e la carne rossa che sono consentiti nella dieta della pancia di grano. Davis incoraggia l'esercizio, ma il tipo e la quantità effettivi sono lasciati a te.</code> \| <code>Rasmalai. Ingredienti: Latte, zucchero, ingredienti del latte modificato, farina di frumento, pistacchi, acido citrico, acido acetico, cloruro di calcio, sorbato di potassio, fecola di patate modificata, gomma di guar, gomma di xantano e aromi.Fatti: ingredienti: latte, zucchero, latte modificato ingredienti, farina di frumento, pistacchi, acido citrico, acido acetico, cloruro di calcio, sorbato di potassio, fecola di patate modificata, gomma di guar, gomma di xantano e aromi. Fatti:</code> \|
	\| <code>qual è stata la logica alla base della politica di pacificazione durante la seconda guerra mondiale?</code> \| <code>La politica di pacificazione come motivo più importante dello scoppio della seconda guerra mondiale. Lo scoppio della seconda guerra mondiale ebbe molte cause, una delle quali fu. la politica di pacificazione che fu una delle cause più importanti. La politica di pacificazione, tra il 1936 ÃÂ¢Ã‚â‚¬ââ€ 1939 era la politica di. cedendo alle richieste di Hitler di prevenire un altro conflitto. Questo era un. una delle maggiori cause della seconda guerra mondiale come Gran Bretagna e Francia. avrebbe potuto fermare Hitler molto prima, per esempio l'invasione di.</code> \| <code>Razionale per la politica sulla valutazione delle prestazioni. La valutazione delle prestazioni può essere vista come il processo di valutazione e registrazione delle prestazioni del personale allo scopo di esprimere giudizi sul personale che portano a decisioni.</code> \|
	* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
	```json
	{
	"loss": "MultipleNegativesRankingLoss",
	"matryoshka_dims": [
	1024,
	768,
	512,
	256,
	128,
	64,
	32
	],
	"matryoshka_weights": [
	1,
	1,
	1,
	1,
	1,
	1,
	1
	],
	"n_dims_per_step": -1
	}
	```

	### Evaluation Dataset

	#### mmarco

	* Dataset: mmarco
	* Size: 39,780,811 evaluation samples
	* Columns: <code>query</code>, <code>positive</code>, and <code>negative</code>
	* Approximate statistics based on the first 1000 samples:
	\| \| query \| positive \| negative \|
	\|:--------\|:-----------------------------------------------------------------------------------------------\|:--------------------------------------------------------------------------------------------------\|:--------------------------------------------------------------------------------------------------\|
	\| type \| string \| string \| string \|
	\| details \| <ul><li>min: 11 characters</li><li>mean: 39.1 characters</li><li>max: 194 characters</li></ul> \| <ul><li>min: 71 characters</li><li>mean: 392.09 characters</li><li>max: 1089 characters</li></ul> \| <ul><li>min: 65 characters</li><li>mean: 372.69 characters</li><li>max: 1060 characters</li></ul> \|
	* Samples:
	\| query \| positive \| negative \|
	\|:-------------------------------------------\|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------\|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------\|
	\| <code>che colpa c'è in turchia?</code> \| <code>Il terremoto in Turchia rivela una nuova zona di faglia attiva di Wendy Zukerman Un terremoto di magnitudo 7.2 ha colpito ieri la Turchia, uccidendo più di 200 persone e ferendone migliaia. La Turchia è uno dei paesi più terremotati al mondo. La maggior parte si trova sulla placca anatolica, una piccola placca tettonica a forma di cuneo che viene schiacciata verso ovest mentre la placca araba a est si scontra con la placca eurasiatica.</code> \| <code>Leggi e regolamenti sull'assicurazione auto senza colpa della Florida. La Florida segue senza colpa quando si tratta del pagamento dei sinistri dell'assicurazione auto dopo un incidente d'auto. In uno stato senza colpa, i conducenti sono tenuti a portare un'assicurazione auto che paga la protezione contro le lesioni personali, o PIP, benefici.</code> \|
	\| <code>significato del nome olivia</code> \| <code>15 Terribili significati del nome del bambino. Olivia. La storia: Olivia è stata usata per la prima volta come nome femminile nella dodicesima notte di Shakespeare. Mentre secondo l'interpretazione latina significa semplicemente ramo d'ulivo, Olivia è anche conosciuta come una versione femminile di OliverÃÂ¢Ã‚â‚¬Ã‚â€ che significa, sì, esercito di elfi.</code> \| <code>Olivia Munn ha lavorato senza sforzo sulle onde da spiaggia strutturate sul braccio di Aaron Rodgers agli ESPYs 2016 a Los Angeles mercoledì 13 luglio. Alberto E. Rodriguez/Getty. In una parola, impeccabile! Olivia Munn ha calcato il tappeto rosso agli ESPYs 2016 mercoledì 13 luglio a Los Angeles, lavorando sulle onde da spiaggia più voluminose e strutturate. Continua a leggere per i dettagli su come ricreare lo stile! Questo look è grintoso ma senza sforzo - [è] tutto basato sulla consistenza, ha detto a Us Weekly l'hairstylist delle celebrità Chris Appleton.</code> \|
	\| <code>a cosa servono i carboidrati?</code> \| <code>Scopri quali buoni carboidrati aggiungere alla tua dieta per perdere peso. Non sono mai stato un fan delle diete a basso contenuto di carboidrati: il nostro corpo e il nostro cervello hanno bisogno di carboidrati per funzionare in modo efficace. Scopri quali carboidrati buoni aggiungere alla tua dieta per perdere peso. Non sono mai stato un fan delle diete a basso contenuto di carboidrati: il nostro corpo e il nostro cervello hanno bisogno di carboidrati per funzionare in modo efficace.</code> \| <code>L'elenco di carboidrati sani di seguito è la migliore fonte di carboidrati buoni. La scelta di carboidrati cattivi (anziché da questo elenco di carboidrati buoni) può minare rapidamente la tua salute e sabotare i tuoi obiettivi di gestione del peso.</code> \|
	* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
	```json
	{
	"loss": "MultipleNegativesRankingLoss",
	"matryoshka_dims": [
	1024,
	768,
	512,
	256,
	128,
	64,
	32
	],
	"matryoshka_weights": [
	1,
	1,
	1,
	1,
	1,
	1,
	1
	],
	"n_dims_per_step": -1
	}
	```

	### Training Hyperparameters
	#### Non-Default Hyperparameters

	- `eval_strategy`: steps
	- `per_device_train_batch_size`: 2048
	- `per_device_eval_batch_size`: 2048
	- `learning_rate`: 0.2
	- `num_train_epochs`: 1
	- `warmup_ratio`: 0.1
	- `bf16`: True
	- `load_best_model_at_end`: True
	- `batch_sampler`: no_duplicates

	#### All Hyperparameters
	<details><summary>Click to expand</summary>

	- `overwrite_output_dir`: False
	- `do_predict`: False
	- `eval_strategy`: steps
	- `prediction_loss_only`: True
	- `per_device_train_batch_size`: 2048
	- `per_device_eval_batch_size`: 2048
	- `per_gpu_train_batch_size`: None
	- `per_gpu_eval_batch_size`: None
	- `gradient_accumulation_steps`: 1
	- `eval_accumulation_steps`: None
	- `torch_empty_cache_steps`: None
	- `learning_rate`: 0.2
	- `weight_decay`: 0.0
	- `adam_beta1`: 0.9
	- `adam_beta2`: 0.999
	- `adam_epsilon`: 1e-08
	- `max_grad_norm`: 1.0
	- `num_train_epochs`: 1
	- `max_steps`: -1
	- `lr_scheduler_type`: linear
	- `lr_scheduler_kwargs`: {}
	- `warmup_ratio`: 0.1
	- `warmup_steps`: 0
	- `log_level`: passive
	- `log_level_replica`: warning
	- `log_on_each_node`: True
	- `logging_nan_inf_filter`: True
	- `save_safetensors`: True
	- `save_on_each_node`: False
	- `save_only_model`: False
	- `restore_callback_states_from_checkpoint`: False
	- `no_cuda`: False
	- `use_cpu`: False
	- `use_mps_device`: False
	- `seed`: 42
	- `data_seed`: None
	- `jit_mode_eval`: False
	- `use_ipex`: False
	- `bf16`: True
	- `fp16`: False
	- `fp16_opt_level`: O1
	- `half_precision_backend`: auto
	- `bf16_full_eval`: False
	- `fp16_full_eval`: False
	- `tf32`: None
	- `local_rank`: 0
	- `ddp_backend`: None
	- `tpu_num_cores`: None
	- `tpu_metrics_debug`: False
	- `debug`: []
	- `dataloader_drop_last`: False
	- `dataloader_num_workers`: 0
	- `dataloader_prefetch_factor`: None
	- `past_index`: -1
	- `disable_tqdm`: False
	- `remove_unused_columns`: True
	- `label_names`: None
	- `load_best_model_at_end`: True
	- `ignore_data_skip`: False
	- `fsdp`: []
	- `fsdp_min_num_params`: 0
	- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
	- `tp_size`: 0
	- `fsdp_transformer_layer_cls_to_wrap`: None
	- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
	- `deepspeed`: None
	- `label_smoothing_factor`: 0.0
	- `optim`: adamw_torch
	- `optim_args`: None
	- `adafactor`: False
	- `group_by_length`: False
	- `length_column_name`: length
	- `ddp_find_unused_parameters`: None
	- `ddp_bucket_cap_mb`: None
	- `ddp_broadcast_buffers`: False
	- `dataloader_pin_memory`: True
	- `dataloader_persistent_workers`: False
	- `skip_memory_metrics`: True
	- `use_legacy_prediction_loop`: False
	- `push_to_hub`: False
	- `resume_from_checkpoint`: None
	- `hub_model_id`: None
	- `hub_strategy`: every_save
	- `hub_private_repo`: None
	- `hub_always_push`: False
	- `gradient_checkpointing`: False
	- `gradient_checkpointing_kwargs`: None
	- `include_inputs_for_metrics`: False
	- `include_for_metrics`: []
	- `eval_do_concat_batches`: True
	- `fp16_backend`: auto
	- `push_to_hub_model_id`: None
	- `push_to_hub_organization`: None
	- `mp_parameters`:
	- `auto_find_batch_size`: False
	- `full_determinism`: False
	- `torchdynamo`: None
	- `ray_scope`: last
	- `ddp_timeout`: 1800
	- `torch_compile`: False
	- `torch_compile_backend`: None
	- `torch_compile_mode`: None
	- `dispatch_batches`: None
	- `split_batches`: None
	- `include_tokens_per_second`: False
	- `include_num_input_tokens_seen`: False
	- `neftune_noise_alpha`: None
	- `optim_target_modules`: None
	- `batch_eval_metrics`: False
	- `eval_on_start`: False
	- `use_liger_kernel`: False
	- `eval_use_gather_object`: False
	- `average_tokens_across_devices`: False
	- `prompts`: None
	- `batch_sampler`: no_duplicates
	- `multi_dataset_batch_sampler`: proportional

	</details>

	### Training Logs
	\| Epoch \| Step \| Training Loss \| Validation Loss \| mmarco_dev_cosine_accuracy \| mmarco_test_cosine_accuracy \|
	\|:------:\|:----:\|:-------------:\|:---------------:\|:--------------------------:\|:---------------------------:\|
	\| -1 \| -1 \| - \| - \| 0.7382 \| - \|
	\| 0.0007 \| 1 \| 42.3016 \| - \| - \| - \|
	\| 0.0683 \| 100 \| 20.914 \| 8.5389 \| 0.9048 \| - \|
	\| 0.1365 \| 200 \| 7.612 \| 5.6560 \| 0.9345 \| - \|
	\| 0.2048 \| 300 \| 5.4857 \| 4.3568 \| 0.9503 \| - \|
	\| 0.2730 \| 400 \| 4.374 \| 3.5553 \| 0.9593 \| - \|
	\| 0.3413 \| 500 \| 3.7164 \| 3.0826 \| 0.9664 \| - \|
	\| 0.4096 \| 600 \| 3.2707 \| 2.7282 \| 0.9719 \| - \|
	\| 0.4778 \| 700 \| 2.9356 \| 2.5033 \| 0.9742 \| - \|
	\| 0.5461 \| 800 \| 2.6984 \| 2.3172 \| 0.9781 \| - \|
	\| 0.6143 \| 900 \| 2.5414 \| 2.1870 \| 0.9797 \| - \|
	\| 0.6826 \| 1000 \| 2.3811 \| 2.0797 \| 0.9804 \| - \|
	\| 0.7509 \| 1100 \| 2.273 \| 1.9936 \| 0.9816 \| - \|
	\| -1 \| -1 \| - \| - \| - \| 0.9785 \|


	### Framework Versions
	- Python: 3.10.12
	- Sentence Transformers: 3.5.0.dev0
	- Transformers: 4.50.0.dev0
	- PyTorch: 2.5.1+cu121
	- Accelerate: 1.2.1
	- Datasets: 3.3.1
	- Tokenizers: 0.21.0

	## Citation

	### BibTeX

	#### Sentence Transformers
	```bibtex
	@inproceedings{reimers-2019-sentence-bert,
	title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
	author = "Reimers, Nils and Gurevych, Iryna",
	booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
	month = "11",
	year = "2019",
	publisher = "Association for Computational Linguistics",
	url = "https://arxiv.org/abs/1908.10084",
	}
	```

	#### MatryoshkaLoss
	```bibtex
	@misc{kusupati2024matryoshka,
	title={Matryoshka Representation Learning},
	author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
	year={2024},
	eprint={2205.13147},
	archivePrefix={arXiv},
	primaryClass={cs.LG}
	}
	```

	#### MultipleNegativesRankingLoss
	```bibtex
	@misc{henderson2017efficient,
	title={Efficient Natural Language Response Suggestion for Smart Reply},
	author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
	year={2017},
	eprint={1705.00652},
	archivePrefix={arXiv},
	primaryClass={cs.CL}
	}
	```

	<!--
	## Glossary

	Clearly define terms in order to be accessible across audiences.
	-->

	<!--
	## Model Card Authors

	Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.
	-->

	<!--
	## Model Card Contact

	Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.
	-->