setfit_ar_sst2 / README.md
akhooli's picture
Add SetFit model
9d3af0b verified
|
raw
history blame
17.2 kB
metadata
base_model: akhooli/Arabic-SBERT-100K
library_name: setfit
metrics:
  - accuracy
pipeline_tag: text-classification
tags:
  - setfit
  - sentence-transformers
  - text-classification
  - generated_from_setfit_trainer
widget:
  - text: >-
      كتاب كشف لنا حقائق لم نكن نعرفها من قبل، واسترسل الاحداث بشفافية تامة
      واظهر لنا معارضة وكره السلطة في الكويت للديمقراطية،. كتاب مفيد جدا لمن
      يريد ان يزيد من معلوماته عن تاريخ الكويت السياسي. حفظ الله الدكتور احمد
      الخطيب ورزقه الصحة والعافية
  - text: >-
      الصورة غير الواقعة . سعة الغرفة جدا ممتاز أما دورة المياة صغيرة ومزدحمة
      بداخل .. اثاث قديم والبعض يوجد به إتلاف كما أن دورة المياة تحتاج إلى صيانة
      دورية
  - text: >-
      كان جزء من المطعم يقع في الهواء الطلق كانت أسوأ تجربة مررت بها عندما كنت
      أجلس خارج الفندق لتناول مشروب في المساء أثناء مشاهدة مبارة التشيك مع تركيا
      في بطولة يورو . تلقى السائح الألماني الذي كان يجلس على الطاولة بجانبنا
      فاتورة تضم تكاليف طعام ومشروبات لم يطلبها ولكنها وضعت على طاولته وثمن طعام
      لم يصل أيضا كان النادل غير مبال وهز كتفيه ثم أحضر المدير الذي لم يكن
      متعاونا بنفس القدر. ثم كانت دهشتنا عندما ذهب المدير ليطرق نافذة سيارة
      الشرطة التي كانت متوقفة خارج منطقة الجلوس لمراقبة الحشود التي كانت تشاهد
      المباراة على شاشة كبيرة في ميدان وينسيسلاس. هناك الآن رجال شرطة والمدير
      والنادل يواجهون هذا الرجل الذي كان مؤدبا وهادئا للغاية لكنه كان مصرا على
      الدفاع عن موقفه. ظل يدعي أنه لم يجلس على الطاولة لفترة طويلة بما يكفي
      لتناول وشرب ما كانوا يطالبونه بالدفع مقابله. كان المشهد مروعا ويحدث على
      بعد متر من طاولتنا، لذا قررنا المغادرة. المكان في حاجة إلى بعض خدمة
      العملاء كانت المشروبات باهظة الثمن للغاية. تجنب هذا المكان. جرب تناول
      الطعام أو مشروب في نيبوزيزيك في منتصف الطريق المائل إلى بيترن هيل الأسعار
      جميلة ومعقولة.
  - text: >-
      الرواية دي اي كلام يتقال عليها يقلل من قيمتها لأنها احسن من اي
      ريفيو...ببساطة خمس نجوم لا تكفي
  - text: >-
      مقبول. الموقع قريب من الحرم النبوي. الاستقبال كان سيء جدا، الأثاث قديم جدا
      ، المطعم صغير ومزدحم والقيمة مقابل المال دون المستوىلاأنصح أبدا بالإقامة
      فيه، حيث أن وجدت هناك فنادق أفضل منه وأرخص
inference: true
model-index:
  - name: SetFit with akhooli/Arabic-SBERT-100K
    results:
      - task:
          type: text-classification
          name: Text Classification
        dataset:
          name: Unknown
          type: unknown
          split: test
        metrics:
          - type: accuracy
            value: 0.5033333333333333
            name: Accuracy

SetFit with akhooli/Arabic-SBERT-100K

This is a SetFit model that can be used for Text Classification. This SetFit model uses akhooli/Arabic-SBERT-100K as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
Positive
  • '. نجمات. قصة جيدة. لا أدري ما الذي أغضبني أكثر تعامل البشر مع الحيوانات أم تعامل الخنازير مع الحيوانات .. لأنه يبدو لي أن الخنازير كانت بارعة في دور الإنسان أكثر من الإنسان نفسه . لقراءتي عن بعض الثورات مؤخرا رحت أقارن بين الأحداث هنا و هناك يا ترى هل سيكون لجميعها نهاية كهذه ؟ هل سيكون لكل شخص بدوره المذكور نهاية كالتي طالته هنا كذلك ؟'
  • 'وكأن ما يكتبه قد كتبته بيدي أصبح اأعرف حتى ما ينوي قوله تعجز الكلامات عن وصفه'
  • 'تقول في روايتها : لا أفقر من امرأة لا ذكريات لها. وأنا أقول لا أفقر من قارئ لا يقرأ لها. ... أعتقد أن أحلام أرادت أن تنتصر المرأه هذه المره حتى على حساب الحب. بنسبه إلي كانت لغة أحلام قوية كعادتها تجيد أختيار الخيوط لكن هذه المره فشل في حياكتها. أظنها أرادتها كنزه أفصبحت جورب. أو أن في كتابها الأخير نسيان أردات أن يطبق هذا على واقع أوراقها وينسى الحب أبطاله'
Mixed
  • 'مناسب للميزانيات المحدودة . قرب الفندق من ديرة ستي سنتر نظيف و مرتب مقارنة بالفنادق اللي بنفس السعر. الاضاءة ضعيفة سواء في الغرف او في الاستقبالالفطور بسيط وطلبات الغرف تقدم بصينية وصحون بلاستيكية'
  • 'نعيش أياما سوداء يا صديقى إذا كانت لديك فرصة للهجرة أرجوك هاجر ، و إذا كان ابنك أو شقيقك يحلم بالهجرة أرجوك لا تقف فى طريقه ، و إذا كنت بره أساسا أرجوك خليك عندك ؛ فالبلد لن ينصلح حاله قريبا حتى لو تغير النظام ، فالمشكلة الأكبر فى الناس ، الهجرة يا صديقى الهجرة .. الحياة ليست بروفة وستعيش مرة واحدة فحاول أن تعيشها صح .'
  • 'متعب. أقمت كجزء من مجموعة. لم أنفق مثل تلك النفقات الكثيرة منذ أن تم تطويره والتي تبدو نفقات باهظة في لمح البصر. بدا مكلفا للغاية مقارنة بالوضع الذي كان عليه. وبكلامنا نحن الإنجليز، الفندق نجوم إلى حد كبير وليس مجرد نجوم، ولكنه قديم جدا بالفعل... كانت الغرفة ذات ورق حائط ملطخ والسجاجيد رقيقة والسرير غير مستو ولكن الأغطية والألحفة نظيفة ورائعة . كانت هناك بعض الأمور الغريبة، على سبيل المثال: لم لم تكن هناك مصاعد جاهزة في الطابق الأرضي مطلقا؟ كانت غرفة البخار لا تعمل طوال الأسبوع. لا يتم تقديم الكحول في الردهة بعد الساعة الثانية عشر لكن كان يقدم في النادي الصاخب فى الطابق الثالث. المكان مناسب للعمل ولمشاهدة المناظر بشكل معقول. إذا كنت في رحلة رومانسية إلى هانوي... فلا مجال لذلك'
Negative
  • 'مخيب للأمل. . أصوات أعمال بناء و إزعاج شديد من مطارق و حفر من الصباح الباكر لم نستطع بسببها النوم و الراحة مع عدم تجاوب مسؤول الفندق مع الشكوى و التعامل غير الجيد مع الشكوى'
  • 'مش سطحية بس الخلاصة ثورات انقلابات قتل قتل قتل كتير. اللى يصحى بدري يمسك الحكم'
  • 'رواية مملة ، لم أستفد منها شيئا سوى من ناحية الأحداث المتوقعه أغلبها أو حتى من الناحية اللغوية ، لا أنكر أن هناك بعض العبارات الجميلة لكن لم توظف ف المكان ولا الزمن المناسب لذا فقدت روعتها ، يجب على الكاتب أن يكثف القراءة ويعيد ترتيب حساباته ، بالمناسبة هو يمتلك قلم جيد لكن لم يستخدم بشكل جميل .'

Evaluation

Metrics

Label Accuracy
all 0.5033

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("akhooli/setfit")
# Run inference
preds = model("الرواية دي اي كلام يتقال عليها يقلل من قيمتها لأنها احسن من اي ريفيو...ببساطة خمس نجوم لا تكفي")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 5 38.625 127
Label Training Sample Count
Negative 8
Positive 8
Mixed 8

Training Hyperparameters

  • batch_size: (16, 16)
  • num_epochs: (4, 4)
  • max_steps: -1
  • sampling_strategy: oversampling
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: True

Training Results

Epoch Step Training Loss Validation Loss
0.0417 1 0.2812 -
1.0 24 - 0.2691
2.0 48 - 0.2961
2.0833 50 0.1176 -
3.0 72 - 0.2998
4.0 96 - 0.2992

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.2.0.dev0
  • Sentence Transformers: 3.1.1
  • Transformers: 4.44.2
  • PyTorch: 2.4.1+cu121
  • Datasets: 3.0.1
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}