Add SetFit model

Browse files

Files changed (10) hide show

README.md +37 -54
config.json +16 -15
config_setfit.json +4 -5
model.safetensors +2 -2
model_head.pkl +2 -2
modules.json +0 -6
sentence_bert_config.json +1 -1
tokenizer.json +0 -0
tokenizer_config.json +43 -8
vocab.txt +0 -0

README.md CHANGED Viewed

@@ -1,5 +1,5 @@
 ---
-base_model: sentence-transformers/distiluse-base-multilingual-cased-v1
 library_name: setfit
 metrics:
 - accuracy
@@ -10,32 +10,16 @@ tags:
 - text-classification
 - generated_from_setfit_trainer
 widget:
-- text: كان جزء من المطعم يقع في الهواء الطلق كانت أسوأ تجربة مررت بها عندما كنت أجلس
-    خارج الفندق لتناول مشروب في المساء أثناء مشاهدة مبارة التشيك مع تركيا في بطولة
-    يورو . تلقى السائح الألماني الذي كان يجلس على الطاولة بجانبنا فاتورة تضم تكاليف
-    طعام ومشروبات لم يطلبها ولكنها وضعت على طاولته وثمن طعام لم يصل أيضا كان النادل
-    غير مبال وهز كتفيه ثم أحضر المدير الذي لم يكن متعاونا بنفس القدر. ثم كانت دهشتنا
-    عندما ذهب المدير ليطرق نافذة سيارة الشرطة التي كانت متوقفة خارج منطقة الجلوس لمراقبة
-    الحشود التي كانت تشاهد المباراة على شاشة كبيرة في ميدان وينسيسلاس. هناك الآن رجال
-    شرطة والمدير والنادل يواجهون هذا الرجل الذي كان مؤدبا وهادئا للغاية لكنه كان مصرا
-    على الدفاع عن موقفه. ظل يدعي أنه لم يجلس على الطاولة لفترة طويلة بما يكفي لتناول
-    وشرب ما كانوا يطالبونه بالدفع مقابله. كان المشهد مروعا ويحدث على بعد متر من طاولتنا،
-    لذا قررنا المغادرة. المكان في حاجة إلى بعض خدمة العملاء كانت المشروبات باهظة الثمن
-    للغاية. تجنب هذا المكان. جرب تناول الطعام أو مشروب في نيبوزيزيك في منتصف الطريق
-    المائل إلى بيترن هيل الأسعار جميلة ومعقولة.
-- text: الرواية دي اي كلام يتقال عليها يقلل من قيمتها لأنها احسن من اي ريفيو...ببساطة
-    خمس نجوم لا تكفي
-- text: مقبول. الموقع قريب من الحرم النبوي. الاستقبال كان سيء جدا، الأثاث قديم جدا
-    ، المطعم صغير ومزدحم والقيمة مقابل المال دون المستوىلاأنصح أبدا بالإقامة فيه،
-    حيث أن وجدت هناك فنادق أفضل منه وأرخص
-- text: أكثر من كتاب .. أكثر من حياة. الفهم التجديدي ، والاختصار الشمولي العميق ،
-    واللغة السلسة الواضحة ، كل هذه المزايا تضع الكتاب موضع استحقاق القراءة أكثر من
-    مرة ..
-- text: مكان راحه البال . المكان نظيف جدا ومريح جدا. عدم وجود مكان للباركن السياره
-    فالفندق
 inference: true
 model-index:
-- name: SetFit with sentence-transformers/distiluse-base-multilingual-cased-v1
   results:
   - task:
       type: text-classification
@@ -46,13 +30,13 @@ model-index:
       split: test
     metrics:
     - type: accuracy
-      value: 0.45696969696969697
       name: Accuracy
 ---
-# SetFit with sentence-transformers/distiluse-base-multilingual-cased-v1
-This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [sentence-transformers/distiluse-base-multilingual-cased-v1](https://huggingface.co/sentence-transformers/distiluse-base-multilingual-cased-v1) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.
 The model has been trained using an efficient few-shot learning technique that involves:
@@ -63,10 +47,10 @@ The model has been trained using an efficient few-shot learning technique that i
 ### Model Description
 - **Model Type:** SetFit
-- **Sentence Transformer body:** [sentence-transformers/distiluse-base-multilingual-cased-v1](https://huggingface.co/sentence-transformers/distiluse-base-multilingual-cased-v1)
 - **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
-- **Maximum Sequence Length:** 128 tokens
-- **Number of Classes:** 3 classes
 <!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
 <!-- - **Language:** Unknown -->
 <!-- - **License:** Unknown -->
@@ -78,18 +62,19 @@ The model has been trained using an efficient few-shot learning technique that i
 - **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)
 ### Model Labels
-| Label    | Examples                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                   |
-|:---------|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
-| Positive | <ul><li>'. نجمات. قصة جيدة. لا أدري ما الذي أغضبني أكثر تعامل البشر مع الحيوانات أم تعامل الخنازير مع الحيوانات .. لأنه يبدو لي أن الخنازير كانت بارعة في دور الإنسان أكثر من الإنسان نفسه . لقراءتي عن بعض الثورات مؤخرا رحت أقارن بين الأحداث هنا و هناك يا ترى هل سيكون لجميعها نهاية كهذه ؟ هل سيكون لكل شخص بدوره المذكور نهاية كالتي طالته هنا كذلك ؟'</li><li>'وكأن ما يكتبه قد كتبته بيدي أصبح اأعرف حتى ما ينوي قوله تعجز الكلامات عن وصفه'</li><li>'تقول في روايتها : لا أفقر من امرأة لا ذكريات لها. وأنا أقول لا أفقر من قارئ لا يقرأ لها. ... أعتقد أن أحلام أرادت أن تنتصر المرأه هذه المره حتى على حساب الحب. بنسبه إلي كانت لغة أحلام قوية كعادتها تجيد أختيار الخيوط لكن هذه المره فشل في حياكتها. أظنها أرادتها كنزه أفصبحت جورب. أو أن في كتابها الأخير نسيان أردات أن يطبق هذا على واقع أوراقها وينسى الحب أبطاله'</li></ul>                                                                                                                                                                                                                                                                                                                                                                                                                                           |
-| Mixed    | <ul><li>'مناسب للميزانيات المحدودة . قرب الفندق من ديرة ستي سنتر نظيف و مرتب مقارنة بالفنادق اللي بنفس السعر. الاضاءة ضعيفة سواء في الغرف او في الاستقبالالفطور بسيط وطلبات الغرف تقدم بصينية وصحون بلاستيكية'</li><li>'نعيش أياما سوداء يا صديقى إذا كانت لديك فرصة للهجرة أرجوك هاجر ، و إذا كان ابنك أو شقيقك يحلم بالهجرة أرجوك لا تقف فى طريقه ، و إذا كنت بره أساسا أرجوك خليك عندك ؛ فالبلد لن ينصلح حاله قريبا حتى لو تغير النظام ، فالمشكلة الأكبر فى الناس ، الهجرة يا صديقى الهجرة .. الحياة ليست بروفة وستعيش مرة واحدة فحاول أن تعيشها صح .'</li><li>'متعب. أقمت كجزء من مجموعة. لم أنفق مثل تلك النفقات الكثيرة منذ أن تم تطويره والتي تبدو نفقات باهظة في لمح البصر. بدا مكلفا للغاية مقارنة بالوضع الذي كان عليه. وبكلامنا نحن الإنجليز، الفندق نجوم إلى حد كبير وليس مجرد نجوم، ولكنه قديم جدا بالفعل... كانت الغرفة ذات ورق حائط ملطخ والسجاجيد رقيقة والسرير غير مستو ولكن الأغطية والألحفة نظيفة ورائعة . كانت هناك بعض الأمور الغريبة، على سبيل المثال: لم لم تكن هناك مصاعد جاهزة في الطابق الأرضي مطلقا؟ كانت غرفة البخار لا تعمل طوال الأسبوع. لا يتم تقديم الكحول في الردهة بعد الساعة الثانية عشر لكن كان يقدم في النادي الصاخب فى الطابق الثالث. المكان مناسب للعمل ولمشاهدة المناظر بشكل معقول. إذا كنت في رحلة رومانسية إلى هانوي... فلا مجال لذلك'</li></ul> |
-| Negative | <ul><li>'مخيب للأمل. . أصوات أعمال بناء و إزعاج شديد من مطارق و حفر من الصباح الباكر لم نستطع بسببها النوم و الراحة مع عدم تجاوب مسؤول الفندق مع الشكوى و التعامل غير الجيد مع الشكوى'</li><li>'مش سطحية بس الخلاصة ثورات انقلابات قتل قتل قتل كتير. اللى يصحى بدري يمسك الحكم'</li><li>'رواية مملة ، لم أستفد منها شيئا سوى من ناحية الأحداث المتوقعه أغلبها أو حتى من الناحية اللغوية ، لا أنكر أن هناك بعض العبارات الجميلة لكن لم توظف ف المكان ولا الزمن المناسب لذا فقدت روعتها ، يجب على الكاتب أن يكثف القراءة ويعيد ترتيب حساباته ، بالمناسبة هو يمتلك قلم جيد لكن لم يستخدم بشكل جميل .'</li></ul>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               |
 ## Evaluation
 ### Metrics
 | Label   | Accuracy |
 |:--------|:---------|
-| **all** | 0.4570   |
 ## Uses
@@ -109,7 +94,7 @@ from setfit import SetFitModel
 # Download from the 🤗 Hub
 model = SetFitModel.from_pretrained("akhooli/setfit")
 # Run inference
-preds = model("مكان راحه البال . المكان نظيف جدا ومريح جدا. عدم وجود مكان للباركن السياره فالفندق")
 ```
 <!--
@@ -139,19 +124,18 @@ preds = model("مكان راحه البال . المكان نظيف جدا وم
 ## Training Details
 ### Training Set Metrics
-| Training set | Min | Median | Max |
-|:-------------|:----|:-------|:----|
-| Word count   | 5   | 38.625 | 127 |
-| Label    | Training Sample Count |
-|:---------|:----------------------|
-| Mixed    | 8                     |
-| Negative | 8                     |
-| Positive | 8                     |
 ### Training Hyperparameters
 - batch_size: (32, 32)
-- num_epochs: (4, 4)
 - max_steps: -1
 - sampling_strategy: oversampling
 - body_learning_rate: (2e-05, 1e-05)
@@ -168,13 +152,12 @@ preds = model("مكان راحه البال . المكان نظيف جدا وم
 - load_best_model_at_end: True
 ### Training Results
-| Epoch  | Step | Training Loss | Validation Loss |
-|:------:|:----:|:-------------:|:---------------:|
-| 0.1667 | 1    | 0.3001        | -               |
-| 1.0    | 6    | -             | 0.2727          |
-| 2.0    | 12   | -             | 0.2697          |
-| 3.0    | 18   | -             | 0.2861          |
-| 4.0    | 24   | -             | 0.2927          |
 ### Framework Versions
 - Python: 3.10.14

 ---
+base_model: akhooli/sbert_ar_nli_500k_norm
 library_name: setfit
 metrics:
 - accuracy
 - text-classification
 - generated_from_setfit_trainer
 widget:
+- text: 'هل كان من الممكن أن أكون مهووسًا أكثر عندما سمعت أن أبولو 13 سيتم إصداره
+    بتنسيق آيماكس؟ '
+- text: 'يبدو أنه تم إعادة تجميعه من أرضية غرفة التقطيع لأي صابون نهاري. '
+- text: 'تخريبي، تأملي، سريري وشاعري، مدرس البيانو هو عمل جريء من العبقرية. '
+- text: 'يثبت نولان أنه يستطيع أن يتعارض مع أفضلهم ويدير فيلم تشويق تقليدي أكثر بينما
+    يتخلى عن القليل من صرامته الفكرية أو رباطة جأشه الإبداعية. '
+- text: 'فيلم بائس يختزل الحرب العالمية الثانية إلى سعي رجل واحد للعثور على شعلة قديمة. '
 inference: true
 model-index:
+- name: SetFit with akhooli/sbert_ar_nli_500k_norm
   results:
   - task:
       type: text-classification
       split: test
     metrics:
     - type: accuracy
+      value: 0.56
       name: Accuracy
 ---
+# SetFit with akhooli/sbert_ar_nli_500k_norm
+This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [akhooli/sbert_ar_nli_500k_norm](https://huggingface.co/akhooli/sbert_ar_nli_500k_norm) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.
 The model has been trained using an efficient few-shot learning technique that involves:
 ### Model Description
 - **Model Type:** SetFit
+- **Sentence Transformer body:** [akhooli/sbert_ar_nli_500k_norm](https://huggingface.co/akhooli/sbert_ar_nli_500k_norm)
 - **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
+- **Maximum Sequence Length:** 512 tokens
+- **Number of Classes:** 4 classes
 <!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
 <!-- - **Language:** Unknown -->
 <!-- - **License:** Unknown -->
 - **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)
 ### Model Labels
+| Label | Examples                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                  |
+|:------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+|  0    | <ul><li>'الحماقة الشاملة مثل هذه هي مسألة ذوق. '</li><li>'... أصبح أكثر واهية بالتأكيد مع العديد من القطع الثابتة ذات الحجم الكبير والبعيدة عن الشخصية والمسامية منطقيًا. '</li><li>'أعتقد أن الخطأ الأول هو تصوير شاتنر في دور أستاذ أسطوري وكونيس في دور طالب جامعي لامع - أين هو بولي شور في دور عالم الصواريخ؟ '</li></ul>                                                                                                                                                                                                            |
+|       | <ul><li>"إن مور يشبه الثور التقدمي في متجر للخزف الصيني، وهو محرض يقتحم الأفكار ومجموعات المصالح الخاصة بينما يجمع علامته التجارية الخاصة من الليبرالية. '$$ 0"</li><li>"`` كوين -lrb- لكريستيان بيل هو -rrb- قرصان غرانج يرتدي ملابس جلدية مع تسريحة شعر مثل غاندالف في نفق الرياح ولهجة كوكني المذهلة ببساطة. '$$ 0"</li><li>'يحمل هذا الفيلم الرقيق على كتفيه الرشيقتين، ويخوض تشان في الكتابة الفاسدة والاتجاه والتوقيت بابتسامة تقول: "إذا بقيت إيجابيًا، فربما أستطيع أن أعرض واحدة من أعظم صوري، المعلم السكير". \'$$ 0'</li></ul> |
+|  1    | <ul><li>'... إنه مفهوم مثل أي دليل دمى، وهو شيء يمكن حتى لغير التقنيين الاستمتاع به. '</li><li>'لن يرحب الجميع أو يقبلوا محاكمات هنري كيسنجر باعتبارها لوحة مخلصة، لكن قليلين هم من يستطيعون القول بأن المناقشة التي تنضم إليها هذه المحاكمة ضرورية وتأتي في الوقت المناسب. '</li><li>'على الرغم من أنه يقرع طبلًا مبتذلًا جدًا في بعض الأحيان، إلا أن الحوار الجديد لهذا الجمهور الممتع، والموسيقى النشطة، والشجاعة اللطيفة غالبًا ما تكون معدية. '</li></ul>                                                                            |
+| 0     | <ul><li>'ليس بالضبط ركب النحل '</li><li>'أنا أكره هذا الفيلم '</li></ul>                                                                                                                                                                                                                                                                                                                                                                                                                                                                  |
 ## Evaluation
 ### Metrics
 | Label   | Accuracy |
 |:--------|:---------|
+| **all** | 0.56     |
 ## Uses
 # Download from the 🤗 Hub
 model = SetFitModel.from_pretrained("akhooli/setfit")
 # Run inference
+preds = model("يبدو أنه تم إعادة تجميعه من أرضية غرفة التقطيع لأي صابون نهاري. ")
 ```
 <!--
 ## Training Details
 ### Training Set Metrics
+| Training set | Min | Median  | Max |
+|:-------------|:----|:--------|:----|
+| Word count   | 5   | 16.5769 | 31  |
+| Label  | Training Sample Count |
+|:-------|:----------------------|
+| سلبي   | 0                     |
+| إيجابي | 0                     |
 ### Training Hyperparameters
 - batch_size: (32, 32)
+- num_epochs: (3, 3)
 - max_steps: -1
 - sampling_strategy: oversampling
 - body_learning_rate: (2e-05, 1e-05)
 - load_best_model_at_end: True
 ### Training Results
+| Epoch | Step | Training Loss | Validation Loss |
+|:-----:|:----:|:-------------:|:---------------:|
+| 0.125 | 1    | 0.278         | -               |
+| 1.0   | 8    | -             | 0.2514          |
+| 2.0   | 16   | -             | 0.2524          |
+| 3.0   | 24   | -             | 0.2543          |
 ### Framework Versions
 - Python: 3.10.14

config.json CHANGED Viewed

@@ -1,24 +1,25 @@
 {
-  "_name_or_path": "sentence-transformers/distiluse-base-multilingual-cased-v1",
-  "activation": "gelu",
   "architectures": [
-    "DistilBertModel"
   ],
-  "attention_dropout": 0.1,
-  "dim": 768,
-  "dropout": 0.1,
-  "hidden_dim": 3072,
   "initializer_range": 0.02,
   "max_position_embeddings": 512,
-  "model_type": "distilbert",
-  "n_heads": 12,
-  "n_layers": 6,
   "pad_token_id": 0,
-  "qa_dropout": 0.1,
-  "seq_classif_dropout": 0.2,
-  "sinusoidal_pos_embds": false,
-  "tie_weights_": true,
   "torch_dtype": "float32",
   "transformers_version": "4.45.1",
-  "vocab_size": 119547
 }

 {
+  "_name_or_path": "akhooli/sbert_ar_nli_500k_norm",
   "architectures": [
+    "BertModel"
   ],
+  "attention_probs_dropout_prob": 0.1,
+  "classifier_dropout": null,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
   "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "layer_norm_eps": 1e-12,
   "max_position_embeddings": 512,
+  "model_type": "bert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
   "pad_token_id": 0,
+  "position_embedding_type": "absolute",
   "torch_dtype": "float32",
   "transformers_version": "4.45.1",
+  "type_vocab_size": 2,
+  "use_cache": true,
+  "vocab_size": 64000
 }

config_setfit.json CHANGED Viewed

@@ -1,8 +1,7 @@
 {
   "labels": [
-    "Mixed",
-    "Negative",
-    "Positive"
-  ],
-  "normalize_embeddings": false
 }

 {
+  "normalize_embeddings": false,
   "labels": [
+    "\u0633\u0644\u0628\u064a",
+    "\u0625\u064a\u062c\u0627\u0628\u064a"
+  ]
 }

model.safetensors CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:d84bc88a6b764709dd4fa7c3e29b7e36f3de9d5cec70e876f2bbb6de150c320c
-size 538947416

 version https://git-lfs.github.com/spec/v1
+oid sha256:1b628c68daba3687b8469e572093d3c1e5f8bcf02387576f4c10366bdc9624ee
+size 540795752

model_head.pkl CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:efddb0394f5ff4e41d62c78c799c5d0d3e8c2ce18e25a2029ccd99028a8890cb
-size 13231

 version https://git-lfs.github.com/spec/v1
+oid sha256:44f6f41c120fee60401383759d2b4e49051398374d385f540f774b0493c20882
+size 25463

modules.json CHANGED Viewed

@@ -10,11 +10,5 @@
     "name": "1",
     "path": "1_Pooling",
     "type": "sentence_transformers.models.Pooling"
-  },
-  {
-    "idx": 2,
-    "name": "2",
-    "path": "2_Dense",
-    "type": "sentence_transformers.models.Dense"
   }
 ]

     "name": "1",
     "path": "1_Pooling",
     "type": "sentence_transformers.models.Pooling"
   }
 ]

sentence_bert_config.json CHANGED Viewed

@@ -1,4 +1,4 @@
 {
-  "max_seq_length": 128,
   "do_lower_case": false
 }

 {
+  "max_seq_length": 512,
   "do_lower_case": false
 }

tokenizer.json CHANGED Viewed

The diff for this file is too large to render. See raw diff

tokenizer_config.json CHANGED Viewed

@@ -8,7 +8,7 @@
       "single_word": false,
       "special": true
     },
-    "100": {
       "content": "[UNK]",
       "lstrip": false,
       "normalized": false,
@@ -16,7 +16,7 @@
       "single_word": false,
       "special": true
     },
-    "101": {
       "content": "[CLS]",
       "lstrip": false,
       "normalized": false,
@@ -24,7 +24,7 @@
       "single_word": false,
       "special": true
     },
-    "102": {
       "content": "[SEP]",
       "lstrip": false,
       "normalized": false,
@@ -32,27 +32,62 @@
       "single_word": false,
       "special": true
     },
-    "103": {
       "content": "[MASK]",
       "lstrip": false,
       "normalized": false,
       "rstrip": false,
       "single_word": false,
       "special": true
     }
   },
-  "clean_up_tokenization_spaces": false,
   "cls_token": "[CLS]",
   "do_basic_tokenize": true,
   "do_lower_case": false,
   "mask_token": "[MASK]",
   "max_len": 512,
-  "model_max_length": 128,
-  "never_split": null,
   "pad_token": "[PAD]",
   "sep_token": "[SEP]",
   "strip_accents": null,
   "tokenize_chinese_chars": true,
-  "tokenizer_class": "DistilBertTokenizer",
   "unk_token": "[UNK]"
 }

       "single_word": false,
       "special": true
     },
+    "1": {
       "content": "[UNK]",
       "lstrip": false,
       "normalized": false,
       "single_word": false,
       "special": true
     },
+    "2": {
       "content": "[CLS]",
       "lstrip": false,
       "normalized": false,
       "single_word": false,
       "special": true
     },
+    "3": {
       "content": "[SEP]",
       "lstrip": false,
       "normalized": false,
       "single_word": false,
       "special": true
     },
+    "4": {
       "content": "[MASK]",
       "lstrip": false,
       "normalized": false,
       "rstrip": false,
       "single_word": false,
       "special": true
+    },
+    "5": {
+      "content": "[رابط]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
+    },
+    "6": {
+      "content": "[بريد]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
+    },
+    "7": {
+      "content": "[مستخدم]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
     }
   },
+  "clean_up_tokenization_spaces": true,
   "cls_token": "[CLS]",
   "do_basic_tokenize": true,
   "do_lower_case": false,
   "mask_token": "[MASK]",
   "max_len": 512,
+  "max_length": 512,
+  "model_max_length": 512,
+  "never_split": [
+    "[بريد]",
+    "[مستخدم]",
+    "[رابط]"
+  ],
+  "pad_to_multiple_of": null,
   "pad_token": "[PAD]",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
   "sep_token": "[SEP]",
+  "stride": 0,
   "strip_accents": null,
   "tokenize_chinese_chars": true,
+  "tokenizer_class": "BertTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
   "unk_token": "[UNK]"
 }

vocab.txt CHANGED Viewed

The diff for this file is too large to render. See raw diff