Add new SentenceTransformer model.

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+ "word_embedding_dimension": 768,
+ "pooling_mode_cls_token": false,
+ "pooling_mode_mean_tokens": true,
+ "pooling_mode_max_tokens": false,
+ "pooling_mode_mean_sqrt_len_tokens": false,
+ "pooling_mode_weightedmean_tokens": false,
+ "pooling_mode_lasttoken": false,
+ "include_prompt": true
+}

README.md

@@ -0,0 +1,573 @@
+---
+base_model: ymelka/robbert-cosmetic-v2-finetuned
+datasets: []
+language: []
+library_name: sentence-transformers
+metrics:
+- pearson_cosine
+- spearman_cosine
+- pearson_manhattan
+- spearman_manhattan
+- pearson_euclidean
+- spearman_euclidean
+- pearson_dot
+- spearman_dot
+- pearson_max
+- spearman_max
+pipeline_tag: sentence-similarity
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:4100
+- loss:CoSENTLoss
+widget:
+- source_sentence: Een voedingssupplement speciaal samengesteld voor vrouwen van 26
+ jaar oud om de huid van binnenuit te voeden en te ondersteunen. Dit supplement
+ bevat essentiële voedingsstoffen zoals vitamines, mineralen en antioxidanten die
+ helpen bij het verminderen van talgproductie, het verkleinen van poriën en het
+ verminderen van wallen. Het resultaat is een gezonde en stralende huid.
+ sentences:
+ - 'De L''Oréal Paris Golden Age Anti-Aging Rozige Dagcrème is een versterkende verzorging
+ speciaal ontwikkeld voor vrouwen vanaf 60 jaar met een doffe en rijpere huid.
+ Verrijkt met Neo-Calcium en pioenroos extract, verstevigt deze crème de huid en
+ gaat verslapping tegen, terwijl het zorgt voor een gerevitaliseerde en frisse
+ glans. De actieve ingrediënten zoals glycerine en squalaan hydrateren en voeden
+ de huid intensief. Breng ''s ochtends aan op een gereinigd gezicht en hals voor
+ optimale resultaten. Let op: alleen voor uitwendig gebruik. Inhoud: 50 ml.'
+ - Bionike Defense My Age Gold Rijke Versterkende Crème voedt, versterkt en revitaliseert
+ de volwassen huid van vrouwen van 60 jaar oud. De ultrasmeltende textuur laat
+ een fluweelachtig gevoel achter en bevat het Skin Replenish Complex met calcium
+ en verstevigende peptiden voor een verbeterde elasticiteit en stevigheid. Verrijkt
+ met shea boter en hyaluronzuur voor een opvullend effect en intense hydratatie.
+ Geschikt voor het gezicht, voor een stralende en stevige huid. Breng 's ochtends
+ en/ of 's avonds aan op gereinigd gezicht en hals. Vermijd het oogcontour. Bevat
+ 50 ml.
+ - 'De L''Occitane Verbena Eau De Toilette is een verfrissende unisex geur met Provençaalse
+ Verbena die lichaam en geest doet ontwaken. De topnoten van sinaasappel en citroen
+ combineren perfect met de hartnoten van verbena en petitgrain, terwijl de basisnoten
+ van roze en geranium zorgen voor een langdurige geurbeleving. Deze eau de toilette
+ is ideaal om jezelf op te frissen en een energieboost te geven. Spray het op je
+ nek, borst, polsen en haar voor een langdurige geur. Let op: niet geschikt voor
+ inname. De fles bevat 100 ml.'
+- source_sentence: Een milde gezichtsreiniger speciaal ontwikkeld voor mannen van
+ 70 jaar en ouder. De reiniger verwijdert overtollig talg en onzuiverheden, terwijl
+ het de huid hydrateert en verzacht. Ideaal voor het verminderen van talg en droogheid.
+ sentences:
+ - 'Luxéol Gummies Suikervrij Haargroei zijn speciaal ontworpen om de haargroei te
+ stimuleren en te verbeteren. Deze gummies zijn suikervrij en bevatten een unieke
+ mix van actieve ingrediënten zoals biotine, zink en selenium die bijdragen aan
+ het behoud van gezond haar en een gezonde hoofdhuid. De gummies zijn gemakkelijk
+ in te nemen en hebben een aangename smaak. Neem dagelijks 2 gummies in voor het
+ beste resultaat. Let op: raadpleeg een arts voordat u dit product gebruikt als
+ u zwanger bent, borstvoeding geeft of allergisch bent voor een van de ingrediënten.'
+ - 'Duolys Hyal Intensief Anti-Ageing Gezichtsserum is een krachtig serum dat verschillende
+ tekenen van veroudering bestrijdt en beschermt tegen vrije radicalen. De formule
+ bevat vitamine C, vitamine E en hyaluronzuur voor een egale en stralende teint,
+ vervaging van rimpels en een verbeterde huidtextuur. Dit serum is geschikt voor
+ mensen van 40 jaar en ouder en kan worden gebruikt op het gezicht, de nek en het
+ decolleté. Breng ''s ochtends enkele druppels aan op een schone huid en masseer
+ zachtjes in. De pompflacon bevat 15 ml serum en is eenvoudig in gebruik. Let op:
+ vermijd contact met de ogen en bij irritatie stoppen met gebruik.'
+ - 'De Babor Energizing Bi-Phase Body Mousse is een verfrissende en revitaliserende
+ body mousse in een handige pompfles van 200ml. Deze mousse combineert de lichtheid
+ van een mousse met de voedende eigenschappen van olie, waardoor de huid intens
+ gehydrateerd en verzorgd wordt. De formule bevat actieve ingrediënten zoals amandelolie,
+ panthenol en vitamine E die de huid verstevigen, verzachten en beschermen tegen
+ uitdroging. Breng de mousse aan op de huid en masseer zachtjes in voor een energieboost
+ en een zijdezachte huid. Geschikt voor dagelijks gebruik en alle huidtypes. Let
+ op: vermijd contact met de ogen en bij eventuele huidirritatie stop het gebruik.'
+- source_sentence: Een milde reiniger speciaal ontwikkeld voor de gevoelige huid van
+ vrouwen van 40 jaar en ouder. Deze reiniger helpt roodheid en vlekken te verminderen,
+ terwijl het de huid zacht en gehydrateerd achterlaat.
+ sentences:
+ - De Purito Centella Green Level Calming Toner is een alcoholvrije toner met Centella
+ Asiatica-extract dat de huid kalmeert en de natuurlijke vochtbarrière herstelt.
+ Het bevat hydraterende ingrediënten zoals natriumhyaluronaat en panthenol om de
+ huid te hydrateren en te verzachten. Gebruik een matige hoeveelheid op het gezicht
+ na het reinigen en volg met serum en moisturizer. Vermijd contact met de ogen.
+ Ideaal voor het kalmeren van een geïrriteerde huid door omgevingsstress.
+ - 'Het Korres KF Griekse Yoghurt Diep Hydraterende Gezichtsmasker is een intens
+ hydraterend sheetmasker dat de huid voedt en hydrateert met yoghurt, hyaluronzuur
+ en rode algen extract. Het geeft een verkoelend gevoel en zorgt voor een gerevitaliseerde
+ uitstraling. Geschikt voor alle huidtypen, ideaal voor een vochtarme, doffe en
+ vermoeide huid. Gebruiksaanwijzing: breng het masker aan op een gereinigd gezicht,
+ laat 15-20 minuten intrekken en masseer het overtollige product in de huid. Bewaar
+ het masker voor gebruik in de koelkast voor een extra verkoelend effect. Inhoud:
+ 20 ml.'
+ - De Shiseido Men Total Revitalizing Cream Pot 50ml is een hoogwaardige anti-ageing
+ crème speciaal ontwikkeld voor mannen om de 5 belangrijkste tekenen van huidveroudering
+ te bestrijden en de huid 48 uur lang gehydrateerd te houden. Met actieve ingrediënten
+ zoals Rice Bran Oil Complex, Xylitol en Nicotinamide wordt de huid verstevigd,
+ gehydrateerd en beschermd tegen veroudering. Gebruik deze crème 's ochtends en
+ 's avonds na het reinigen en/of scheren voor een energieke en gerevitaliseerde
+ huid. Vermijd contact met de ogen en gebruik de crème niet op beschadigde huid.
+ Pot 50 ml.
+- source_sentence: Een milde gezichtsreiniger speciaal ontwikkeld voor mannen van
+ 50 jaar en ouder. Deze reiniger verwijdert onzuiverheden en overtollig talg, terwijl
+ het de huid hydrateert en verzacht. Het is geschikt voor dagelijks gebruik en
+ helpt de huid voor te bereiden op verdere behandelingen.
+ sentences:
+ - 'Uriage Hyséac Schuimende Reinigingsgel is een zachte gezichtsreiniger speciaal
+ ontwikkeld voor de vette huid. Deze reinigingsgel verwijdert onzuiverheden, talg,
+ bacteriën en make-up zonder de huid uit te drogen, waardoor de huid fris en schoon
+ aanvoelt. Met actieve ingrediënten zoals Piroctone Olamine en wilgenroosextract,
+ helpt het de talgproductie te beperken en de huid te kalmeren en te hydrateren.
+ Gebruik de reinigingsgel dagelijks voor een zuivere en stralende huid. Spoel grondig
+ af na gebruik. Geschikt voor de vette huid met neiging tot acne. Inhoud: 150 ml.'
+ - De Clarins Nutri-Lumière Revive Revitaliserende Dagcrème is een innovatieve anti-aging
+ crème die de huidskleur verbetert en de teint laat stralen. Dankzij het vitaliteitsduo
+ en het kaki-extract wordt de huid gerevitaliseerd en verstevigd, terwijl donkere
+ vlekjes verminderen. De crème hydrateert, voedt en laat de huid er jonger en gezonder
+ uitzien. Geschikt voor vrouwen vanaf 60 jaar met een gedevitaliseerde huid. Breng
+ 's ochtends aan op een schone huid door zachtjes in te masseren. Niet aanbrengen
+ op een beschadigde huid. Pot 50 ml.
+ - Het René Furterer Absolue Kératine Ultiem Herstellend Masker is een diep regenererende
+ behandeling voor normaal tot fijn haar dat beschadigd, broos en dof is door herhaalde
+ kleuringen en styling. Dit masker herstelt en versterkt het haar, geeft het kracht,
+ glans en zachtheid. De formule bevat natuurlijke herstructurerende actieve stoffen
+ en is siliconenvrij. Gebruik het masker gedurende 4 tot 6 weken na het wassen
+ van het haar, laat het enkele minuten inwerken en spoel het uit. Niet aanbevolen
+ voor extreem beschadigd en droog haar.
+- source_sentence: Een milde reiniger speciaal ontwikkeld voor de gevoelige huid van
+ vrouwen ouder dan 50. Deze reiniger helpt bij het verwijderen van onzuiverheden
+ en make-up, terwijl het de droogheid en roodheid van de huid verlicht. Het helpt
+ ook om de poriën te verkleinen en de huid te kalmeren.
+ sentences:
+ - 'De Clarins Extra-Firming Anti-Rimpel Rijke Verstevigende Dagcrème is een ideale
+ anti-ageing dagverzorging voor de droge huid, speciaal ontworpen voor vrouwen
+ vanaf 40 jaar. Deze crème zorgt voor een zichtbaar stevigere en energieke huid,
+ vermindert rimpels en herdefinieert het ovaal van het gezicht. De formule bevat
+ actieve ingrediënten zoals shea butter, haverextract en vitamine E die de huid
+ hydrateren, beschermen en verstevigen. Breng ''s ochtends aan op een schone huid
+ voor een egale teint en stralende huid. Let op: vermijd contact met de ogen en
+ bij eventuele irritatie stop het gebruik. Pot 50 ml.'
+ - De Foamie Powder-To-Milk Face Wash Magic Cleanse is een innovatieve gezichtsreiniger
+ die transformeert van poeder naar melk bij contact met water. Deze reiniger verwijdert
+ effectief vuil, make-up en onzuiverheden, terwijl het de huid zacht en gehydrateerd
+ achterlaat. De formule bevat actieve ingrediënten zoals kaolienklei en kokosmelkpoeder
+ die de huid zuiveren en voeden. Gebruik een kleine hoeveelheid poeder en meng
+ het met water om een romige reinigingsmelk te creëren. Masseer zachtjes in op
+ de vochtige huid en spoel af met water. Vermijd contact met de ogen en gebruik
+ het product niet bij een bekende allergie voor een van de ingrediënten. Geef je
+ huid een magische reinigingservaring met Foamie Powder-To-Milk Face Wash Magic
+ Cleanse!
+ - 'De Clarins Zachte Schuimende Verzachtende Reiniger is speciaal ontwikkeld voor
+ de zeer droge en gevoelige huid. Dit reinigingsschuim reinigt de huid grondig,
+ verwijdert make-up en hydrateert intensief. De formule bevat actieve ingrediënten
+ zoals shea butter, Moringa zaad extract en kamille bloem extract, die de huid
+ verzachten en in balans houden. Gebruik de reiniger dagelijks door een kleine
+ hoeveelheid op de vochtige huid aan te brengen en zachtjes in te masseren. Spoel
+ vervolgens af met water. Voor een optimaal resultaat wordt aanbevolen om de reiniger
+ ''s ochtends en ''s avonds te gebruiken. Let op: vermijd contact met de ogen en
+ spoel grondig met water bij contact.'
+model-index:
+- name: SentenceTransformer based on ymelka/robbert-cosmetic-v2-finetuned
+ results:
+ - task:
+ type: semantic-similarity
+ name: Semantic Similarity
+ dataset:
+ name: dev
+ type: dev
+ metrics:
+ - type: pearson_cosine
+ value: 0.8803605934460041
+ name: Pearson Cosine
+ - type: spearman_cosine
+ value: 0.9341319343714859
+ name: Spearman Cosine
+ - type: pearson_manhattan
+ value: 0.8614551090013277
+ name: Pearson Manhattan
+ - type: spearman_manhattan
+ value: 0.929864658330507
+ name: Spearman Manhattan
+ - type: pearson_euclidean
+ value: 0.8612035194536702
+ name: Pearson Euclidean
+ - type: spearman_euclidean
+ value: 0.9300376469629877
+ name: Spearman Euclidean
+ - type: pearson_dot
+ value: 0.8471812147167395
+ name: Pearson Dot
+ - type: spearman_dot
+ value: 0.9290180545187295
+ name: Spearman Dot
+ - type: pearson_max
+ value: 0.8803605934460041
+ name: Pearson Max
+ - type: spearman_max
+ value: 0.9341319343714859
+ name: Spearman Max
+---
+
+# SentenceTransformer based on ymelka/robbert-cosmetic-v2-finetuned
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [ymelka/robbert-cosmetic-v2-finetuned](https://huggingface.co/ymelka/robbert-cosmetic-v2-finetuned). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [ymelka/robbert-cosmetic-v2-finetuned](https://huggingface.co/ymelka/robbert-cosmetic-v2-finetuned) <!-- at revision 12eb96695b4dd6222445c8973202325d5d2c61db -->
+- **Maximum Sequence Length:** 512 tokens
+- **Output Dimensionality:** 768 tokens
+- **Similarity Function:** Cosine Similarity
+<!-- - **Training Dataset:** Unknown -->
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+ (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: RobertaModel 
+ (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("ymelka/robbert-cosmetic-similarity-v2")
+# Run inference
+sentences = [
+ 'Een milde reiniger speciaal ontwikkeld voor de gevoelige huid van vrouwen ouder dan 50. Deze reiniger helpt bij het verwijderen van onzuiverheden en make-up, terwijl het de droogheid en roodheid van de huid verlicht. Het helpt ook om de poriën te verkleinen en de huid te kalmeren.',
+ "De Clarins Zachte Schuimende Verzachtende Reiniger is speciaal ontwikkeld voor de zeer droge en gevoelige huid. Dit reinigingsschuim reinigt de huid grondig, verwijdert make-up en hydrateert intensief. De formule bevat actieve ingrediënten zoals shea butter, Moringa zaad extract en kamille bloem extract, die de huid verzachten en in balans houden. Gebruik de reiniger dagelijks door een kleine hoeveelheid op de vochtige huid aan te brengen en zachtjes in te masseren. Spoel vervolgens af met water. Voor een optimaal resultaat wordt aanbevolen om de reiniger 's ochtends en 's avonds te gebruiken. Let op: vermijd contact met de ogen en spoel grondig met water bij contact.",
+ "De Clarins Extra-Firming Anti-Rimpel Rijke Verstevigende Dagcrème is een ideale anti-ageing dagverzorging voor de droge huid, speciaal ontworpen voor vrouwen vanaf 40 jaar. Deze crème zorgt voor een zichtbaar stevigere en energieke huid, vermindert rimpels en herdefinieert het ovaal van het gezicht. De formule bevat actieve ingrediënten zoals shea butter, haverextract en vitamine E die de huid hydrateren, beschermen en verstevigen. Breng 's ochtends aan op een schone huid voor een egale teint en stralende huid. Let op: vermijd contact met de ogen en bij eventuele irritatie stop het gebruik. Pot 50 ml.",
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Semantic Similarity
+* Dataset: `dev`
+* Evaluated with [<code>EmbeddingSimilarityEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.EmbeddingSimilarityEvaluator)
+
+| Metric | Value |
+|:--------------------|:-----------|
+| pearson_cosine | 0.8804 |
+| **spearman_cosine** | **0.9341** |
+| pearson_manhattan | 0.8615 |
+| spearman_manhattan | 0.9299 |
+| pearson_euclidean | 0.8612 |
+| spearman_euclidean | 0.93 |
+| pearson_dot | 0.8472 |
+| spearman_dot | 0.929 |
+| pearson_max | 0.8804 |
+| spearman_max | 0.9341 |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### Unnamed Dataset
+
+
+* Size: 4,100 training samples
+* Columns: <code>sentence1</code>, <code>sentence2</code>, and <code>score</code>
+* Approximate statistics based on the first 1000 samples:
+ | | sentence1 | sentence2 | score |
+ |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:---------------------------------------------------------------|
+ | type | string | string | float |
+ | details | <ul><li>min: 35 tokens</li><li>mean: 56.0 tokens</li><li>max: 86 tokens</li></ul> | <ul><li>min: 88 tokens</li><li>mean: 147.28 tokens</li><li>max: 274 tokens</li></ul> | <ul><li>min: 0.0</li><li>mean: 0.51</li><li>max: 1.0</li></ul> |
+* Samples:
+ | sentence1 | sentence2 | score |
+ |:-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------|
+ | <code>Een milde reiniger speciaal ontwikkeld voor de gevoelige huid van een 18-jarige vrouw. Verwijdert onzuiverheden en make-up resten zonder de huid uit te drogen. Helpt bij het verminderen van wallen en verbetert de algehele huidtextuur.</code> | <code>De L'Occitane Immortelle Divine Anti-Aging Olie is een intens voedende gezichtsolie die zorgt voor een zichtbaar stevigere huid. Verrijkt met Immortelle Super Extract, een natuurlijk alternatief voor Retinol, helpt deze olie de tekenen van veroudering te bestrijden en de huid intens te voeden. De olie bevat essentiële olie van Immortelle, een krachtige antioxidant die de huid beschermt en verzacht. Meng 2-3 druppels met je crème en breng het 's morgens en 's avonds aan op het gezicht en de nek voor een stralende en stevige huid. Let op: vermijd contact met de ogen.</code> | <code>0.0376665294170379</code> |
+ | <code>Een voedingssupplement met collageen en hyaluronzuur om de elasticiteit en hydratatie van de huid te verbeteren. Speciaal ontworpen voor oudere vrouwen om tekenen van veroudering te verminderen en de huid van binnenuit te voeden.</code> | <code>Het Couleur Caramel Oogpotlood N°101 Zwart is een oogpotlood dat de look intenser en groter maakt. Het bevat 20% actieve ingrediënten, waaronder biologische carnaubawas die de huid beschermt en verzacht. Dit oogpotlood heeft een natuurlijke, licht poederige afwerking en is geschikt voor alle huidtypes. Het kan gebruikt worden om onvolkomenheden, donkere kringen, wallen onder de ogen en roodheid te vervagen. Breng een kleine hoeveelheid aan met een concealerkwast n°9 voor het beste resultaat. Let op: dit product is niet geschikt voor mensen met allergieën voor een van de ingrediënten.</code> | <code>0.0003183887456543</code> |
+ | <code>Een hydraterende gezichtsverzorging voor vrouwen van 50 jaar en ouder met een hoge mate van talg, wallen en droogheid. Deze verzorging voedt de huid diep en helpt bij het herstellen van de natuurlijke balans. Het vermindert talgproductie, vermindert wallen en hydrateert intensief om droogheid te verminderen.</code> | <code>Vichy Normaderm Verzorging Onzuiverheden Anti-Veroudering Dag 50ml is een specifieke verzorging voor vrouwen vanaf 30 jaar die onzuiverheden en de eerste tekenen van veroudering willen aanpakken. De formule bevat LHA, dermatologische peeling-bestanddelen en vitamine C tegen veroudering voor een dubbele werking: het vermindert onzuiverheden en maakt rimpels gladder. De niet-comedogene hypoallergene formule respecteert de gevoelige huid en de frisse textuur hydrateert en verbetert de gemengde tot vette huid. Breng de crème dagelijks aan op een schone en droge huid, vermijd de oogcontour. Gebruik 1-2 keer per dag.</code> | <code>0.9995593428611756</code> |
+* Loss: [<code>CoSENTLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosentloss) with these parameters:
+ ```json
+ {
+ "scale": 20.0,
+ "similarity_fct": "pairwise_cos_sim"
+ }
+ ```
+
+### Evaluation Dataset
+
+#### Unnamed Dataset
+
+
+* Size: 790 evaluation samples
+* Columns: <code>sentence1</code>, <code>sentence2</code>, and <code>score</code>
+* Approximate statistics based on the first 1000 samples:
+ | | sentence1 | sentence2 | score |
+ |:--------|:-----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:---------------------------------------------------------------|
+ | type | string | string | float |
+ | details | <ul><li>min: 35 tokens</li><li>mean: 56.52 tokens</li><li>max: 86 tokens</li></ul> | <ul><li>min: 92 tokens</li><li>mean: 145.42 tokens</li><li>max: 231 tokens</li></ul> | <ul><li>min: 0.0</li><li>mean: 0.51</li><li>max: 1.0</li></ul> |
+* Samples:
+ | sentence1 | sentence2 | score |
+ |:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------|
+ | <code>Een milde gezichtsreiniger speciaal ontwikkeld voor vrouwen van 35 jaar en ouder. Deze reiniger verwijdert onzuiverheden en overtollig talg, waardoor de huid fris en schoon aanvoelt. Het helpt ook om wallen te verminderen en de huid te hydrateren.</code> | <code>De Clarins Zachte Schuimende Hydraterende Reiniger is een reinigingsproduct dat speciaal is ontwikkeld voor normale tot droge huidtypes. Deze schuimende reiniger reinigt de huid grondig, verwijdert make-up, hydrateert en verwijdert onzuiverheden, waardoor de huid gezond en stralend blijft. De formule bevat actieve ingrediënten zoals glycerine, Aloe barbadensis bladsap poeder en Moringa oleifera zaadextract, die de huid hydrateren en verzachten. Gebruik de reiniger dagelijks door een kleine hoeveelheid op een vochtig gezicht aan te brengen en zachtjes in te masseren, vervolgens af te spoelen met water. Dit product is geschikt voor dagelijks gebruik en is geschikt voor mensen met normale tot droge huidtypes.</code> | <code>0.9994744658470154</code> |
+ | <code>Een voedingssupplement met essentiële vitaminen en mineralen die de huid van binnenuit voeden en beschermen. Speciaal samengesteld voor vrouwen van 20 jaar om de huid te helpen bij het reguleren van talgproductie, het verminderen van vlekken en het verbeteren van de algehele huidconditie. Dit supplement draagt bij aan een gezonde en stralende huid.</code> | <code>De Basis Routine Pack Hygiëne En Hydratatie Routine is speciaal samengesteld voor de gemengde tot vette huid en bevat essentiële producten voor een optimale verzorging. De set bevat een schuimende reinigingsgel om de huid zachtjes te reinigen, een hydratatiebooster die de huidbarrière versterkt en een hydraterende lichaamsmelk die de huid intensief voedt en beschermt. Belangrijke actieve ingrediënten zijn onder andere ceramiden, hyaluronzuur en niacinamide. Gebruik de producten volgens de aanwijzingen voor een gezonde en stralende huid. Geschikt voor volwassenen met een normale tot vette huid en gevoelige huidtypes.</code> | <code>0.9989365935325624</code> |
+ | <code>Een voedingssupplement speciaal samengesteld voor vrouwen van 60 jaar en ouder, om de huid van binnenuit te voeden en te ondersteunen. Dit supplement bevat essentiële vitaminen, mineralen en antioxidanten die helpen bij het verminderen van onzuiverheden, het verbeteren van de huidtextuur en het verminderen van rimpels.</code> | <code>De Clinique Gezicht Zacht Waslotion is een milde reinigingslotion die de natuurlijke hydratatiebalans van de huid beschermt, waardoor deze niet strak of droog aanvoelt. De zachte en niet-drogende formule reinigt de huid grondig zonder deze te irriteren. Geschikt voor drie verschillende huidtypes, deze waslotion is ideaal voor dagelijks gebruik, zowel 's ochtends als 's avonds. De instructies zijn eenvoudig: laat de lotion opschuimen met lauwwarm water, masseer over het gezicht en de hals, spoel af en dep de huid droog. Met een inhoud van 200 ml is dit product een must-have voor een effectieve en zachte reiniging van de huid.</code> | <code>0.0003130408003926</code> |
+* Loss: [<code>CoSENTLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosentloss) with these parameters:
+ ```json
+ {
+ "scale": 20.0,
+ "similarity_fct": "pairwise_cos_sim"
+ }
+ ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: steps
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.01
+- `warmup_ratio`: 0.1
+- `bf16`: True
+- `batch_sampler`: no_duplicates
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: steps
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 8
+- `per_device_eval_batch_size`: 8
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 1
+- `eval_accumulation_steps`: None
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.01
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1.0
+- `num_train_epochs`: 3
+- `max_steps`: -1
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.1
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: True
+- `fp16`: False
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: False
+- `hub_always_push`: False
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `dispatch_batches`: None
+- `split_batches`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: proportional
+
+</details>
+
+### Training Logs
+| Epoch | Step | Training Loss | loss | dev_spearman_cosine |
+|:------:|:----:|:-------------:|:------:|:-------------------:|
+| 0 | 0 | - | - | 0.7429 |
+| 0.3899 | 200 | 2.9191 | 2.7784 | 0.8965 |
+| 0.7797 | 400 | 2.8219 | 2.7003 | 0.9063 |
+| 1.1696 | 600 | 2.692 | 2.6436 | 0.9120 |
+| 1.5595 | 800 | 2.5141 | 2.8123 | 0.9187 |
+| 1.9493 | 1000 | 2.4426 | 2.8005 | 0.9189 |
+| 2.3392 | 1200 | 2.3149 | 2.7900 | 0.9301 |
+| 2.7290 | 1400 | 2.2064 | 2.7271 | 0.9356 |
+| 3.0 | 1539 | - | - | 0.9341 |
+
+
+### Framework Versions
+- Python: 3.10.12
+- Sentence Transformers: 3.0.1
+- Transformers: 4.42.3
+- PyTorch: 2.3.0+cu121
+- Accelerate: 0.32.1
+- Datasets: 2.20.0
+- Tokenizers: 0.19.1
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+ title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+ author = "Reimers, Nils and Gurevych, Iryna",
+ booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+ month = "11",
+ year = "2019",
+ publisher = "Association for Computational Linguistics",
+ url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### CoSENTLoss
+```bibtex
+@online{kexuefm-8847,
+ title={CoSENT: A more efficient sentence vector scheme than Sentence-BERT},
+ author={Su Jianlin},
+ year={2022},
+ month={Jan},
+ url={https://kexue.fm/archives/8847},
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,33 @@
+{
+ "_name_or_path": "ymelka/robbert-cosmetic-v2-finetuned",
+ "additional_special_tokens_ids": [],
+ "architectures": [
+ "RobertaModel"
+ ],
+ "attention_probs_dropout_prob": 0.1,
+ "bos_token_id": 0,
+ "classifier_dropout": null,
+ "cls_token_id": 0,
+ "eos_token_id": 3,
+ "hidden_act": "gelu",
+ "hidden_dropout_prob": 0.1,
+ "hidden_size": 768,
+ "initializer_range": 0.02,
+ "intermediate_size": 3072,
+ "layer_norm_eps": 1e-05,
+ "mask_token_id": 4,
+ "max_position_embeddings": 514,
+ "model_type": "roberta",
+ "num_attention_heads": 12,
+ "num_hidden_layers": 12,
+ "pad_token_id": 1,
+ "position_embedding_type": "absolute",
+ "sep_token_id": 3,
+ "tokenizer_class": "RobertaTokenizerFast",
+ "torch_dtype": "float32",
+ "transformers_version": "4.42.3",
+ "type_vocab_size": 1,
+ "unk_token_id": 2,
+ "use_cache": true,
+ "vocab_size": 50000
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+ "__version__": {
+ "sentence_transformers": "3.0.1",
+ "transformers": "4.42.3",
+ "pytorch": "2.3.0+cu121"
+ },
+ "prompts": {},
+ "default_prompt_name": null,
+ "similarity_fn_name": null
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:981778c5cebc8722e3e6c9c1f5936bb451bb6c1391987e5ec908231b769b206d
+size 497790824

modules.json

@@ -0,0 +1,14 @@
+[
+ {
+ "idx": 0,
+ "name": "0",
+ "path": "",
+ "type": "sentence_transformers.models.Transformer"
+ },
+ {
+ "idx": 1,
+ "name": "1",
+ "path": "1_Pooling",
+ "type": "sentence_transformers.models.Pooling"
+ }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+ "max_seq_length": 512,
+ "do_lower_case": false
+}

special_tokens_map.json

@@ -0,0 +1,51 @@
+{
+ "bos_token": {
+ "content": "<s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "cls_token": {
+ "content": "<s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "eos_token": {
+ "content": "</s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "mask_token": {
+ "content": "<mask>",
+ "lstrip": true,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "pad_token": {
+ "content": "<pad>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "sep_token": {
+ "content": "</s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ },
+ "unk_token": {
+ "content": "<unk>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false
+ }
+}

tokenizer_config.json

@@ -0,0 +1,64 @@
+{
+ "add_prefix_space": false,
+ "added_tokens_decoder": {
+ "0": {
+ "content": "<s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false,
+ "special": true
+ },
+ "1": {
+ "content": "<pad>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false,
+ "special": true
+ },
+ "2": {
+ "content": "<unk>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false,
+ "special": true
+ },
+ "3": {
+ "content": "</s>",
+ "lstrip": false,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false,
+ "special": true
+ },
+ "4": {
+ "content": "<mask>",
+ "lstrip": true,
+ "normalized": true,
+ "rstrip": false,
+ "single_word": false,
+ "special": true
+ }
+ },
+ "bos_token": "<s>",
+ "clean_up_tokenization_spaces": true,
+ "cls_token": "<s>",
+ "eos_token": "</s>",
+ "errors": "replace",
+ "mask_token": "<mask>",
+ "max_length": 512,
+ "model_max_length": 512,
+ "pad_to_multiple_of": null,
+ "pad_token": "<pad>",
+ "pad_token_type_id": 0,
+ "padding_side": "right",
+ "sep_token": "</s>",
+ "stride": 0,
+ "tokenizer_class": "RobertaTokenizer",
+ "trim_offsets": true,
+ "truncation_side": "right",
+ "truncation_strategy": "longest_first",
+ "unk_token": "<unk>"
+}