SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
5.0
  • 'LASSEM 앙드레 키큰 베이비장 주니어 아동 옷장 C1800 IH0929 가구/인테리어>아동/주니어가구>옷장'
  • '삼익가구 코코 800 키큰 주니어 베이비 겸용 일반형 옷장 가구/인테리어>아동/주니어가구>옷장'
  • '한샘 샘키즈 낮은 오픈옷장 600 가구/인테리어>아동/주니어가구>옷장'
13.0
  • '행거 옷걸이 호랑이 행거 아동 옷걸이 수납 철제 아기옷 키즈 유아 가구/인테리어>아동/주니어가구>행거'
  • '아이방 옷방 주니어장 옷걸이 행거 공간활용 옷수납 드레스룸 원룸 옷정리 자취방 매장용 좁은집 스탠드 가구/인테리어>아동/주니어가구>행거'
  • '행거 옷걸이 이동식 옷가게 행거 튼튼한 의류매장 진열대 아동복 가구/인테리어>아동/주니어가구>행거'
1.0
  • '가죽 소파 더블 팔걸이 싱글 시트 레저 의자 발 작은 라 15182N4911370 가구/인테리어>아동/주니어가구>소파'
  • '어린이 소파 독서각 캐릭터 소파 독서의자 어린이 세척 다다미 쇼파 시트 동물 곰돌이 가구/인테리어>아동/주니어가구>소파'
  • '모찌 양털의자 키즈카페 미니 쇼파 가구/인테리어>아동/주니어가구>소파'
11.0
  • '비앙스 VONI 전면 회전책장 4단 가구/인테리어>아동/주니어가구>책장'
  • '리바트 톨 키즈 4단 책장 가구/인테리어>아동/주니어가구>책장'
  • '일룸 에디키즈 코너장 세트코너장 + 책장 + PL수납장 가구/인테리어>아동/주니어가구>책장'
2.0
  • '침대안전바 침대 안전 가드 낙상방지 난간 아이 펜스 가구/인테리어>아동/주니어가구>소품가구'
  • '노루페인트 컬러플러스 홈페인트 방문가구 1L 칼라메이트 4인치 도구세트 쉐인 SP4100 가구/인테리어>아동/주니어가구>소품가구'
  • '한샘 샘베딩 스테디 도어 6단(높이194cm) 40cm [몸통미포함] 가구/인테리어>아동/주니어가구>소품가구'
3.0
  • '한샘 샘키즈 낮은 장난감정리함 870 가구/인테리어>아동/주니어가구>수납장'
  • '한샘 샘키즈 1단 미니박스 수납책장 870 가구/인테리어>아동/주니어가구>수납장'
  • '한샘 샘키즈 코너장 가구/인테리어>아동/주니어가구>수납장'
6.0
  • '이케아 스툴 가구/인테리어>아동/주니어가구>의자'
  • '이케아 AGAM 아감 어린이 의자 가구/인테리어>아동/주니어가구>의자'
  • '하이솔로몬 팡팡 의자 가구/인테리어>아동/주니어가구>의자'
7.0
  • '히트 400 학원 상담실 전면 책꽂이 낮은 책장 엄마표학습 가구/인테리어>아동/주니어가구>책꽂이'
  • '회전식 책꽂이 만화책 도서 사물함 그림책 360도 선반 가구/인테리어>아동/주니어가구>책꽂이'
  • '책 거치대 아이방 도서관 서점 그림책 원목 진열대 가구/인테리어>아동/주니어가구>책꽂이'
0.0
  • '자작 1000 와이드 6단 서랍장 가구/인테리어>아동/주니어가구>서랍장'
  • '소르니아 카이 와이드 침실 4단 서랍장 가구/인테리어>아동/주니어가구>서랍장'
  • '일룸 링키플러스 3단 책상서랍 가구/인테리어>아동/주니어가구>서랍장'
10.0
  • '일루일루 프로스 어린이 책상세트 스퀘어형의자 책상1개 의자2개 가구/인테리어>아동/주니어가구>책상의자세트'
  • '휴대용 출장책상의자 여행책상의자 발 선반 해먹 편한 발그네 TWB978A80 가구/인테리어>아동/주니어가구>책상의자세트'
  • '유아책상의자세트 어린이 공부방 학원 책상 세트-대형 70x50 1인세트 - ver2 가구/인테리어>아동/주니어가구>책상의자세트'
8.0
  • '이케아 MAMMUT 마무트 어린이 사각 테이블 가구/인테리어>아동/주니어가구>책상'
  • '한샘 티오 그로우 일반책상세트 5단 120x75cm 가구/인테리어>아동/주니어가구>책상'
  • '아이엔지홈 에디 어린이 각도조절 책상 가구/인테리어>아동/주니어가구>책상'
4.0
  • 'UNKNOWN 대관령한우 스페셜 5호 1 8kg 가구/인테리어>아동/주니어가구>아동침실세트'
  • 'Paperboard Suitcases Vintage Suitcase Portable Composite Wood Map Pattern Design Vintage Storage Ch 가구/인테리어>아동/주니어가구>아동침실세트'
  • '키드존 피셔프라이스 범보의자 세트 가구/인테리어>아동/주니어가구>아동침실세트'
12.0
  • '골든스트릿 베스트 리프팅 수납계단형 움직이는 벙커침대 프레임 SS 가구/인테리어>아동/주니어가구>침대>벙커침대'
  • '레이디가구 레브 기능성 패브릭 데이베드 볼드헤드 침대 SS + 포그니 22 가구/인테리어>아동/주니어가구>침대>일반침대'
  • '슬로우알레 코이 저상형 키즈 침대 원목 데이베드 SS 가구/인테리어>아동/주니어가구>침대>일반침대'
9.0
  • 'CASHL 바퀴달린의자 허리 보조 회전의자 이동식 낮은 가구/인테리어>아동/주니어가구>책상의자'
  • 'UNKNOWN A 책상의자 공부의자 학생용 편한 강의실 메쉬의자 a10 바퀴의자 가구/인테리어>아동/주니어가구>책상의자'
  • '학원 도서관 회의실 세미나용 메쉬망 회전 의자 학생의자 오피스의자 가구/인테리어>아동/주니어가구>책상의자'

Evaluation

Metrics

Label Accuracy
all 1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_fi7")
# Run inference
preds = model("오운 어린이 침대 프레임 SS 가구/인테리어>아동/주니어가구>침대>일반침대")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 3 8.3744 18
Label Training Sample Count
0.0 65
1.0 70
2.0 70
3.0 70
4.0 37
5.0 70
6.0 21
7.0 70
8.0 70
9.0 70
10.0 70
11.0 70
12.0 70
13.0 69

Training Hyperparameters

  • batch_size: (256, 256)
  • num_epochs: (30, 30)
  • max_steps: -1
  • sampling_strategy: oversampling
  • num_iterations: 50
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: False

Training Results

Epoch Step Training Loss Validation Loss
0.0057 1 0.5123 -
0.2857 50 0.5012 -
0.5714 100 0.3699 -
0.8571 150 0.1028 -
1.1429 200 0.0304 -
1.4286 250 0.0147 -
1.7143 300 0.012 -
2.0 350 0.009 -
2.2857 400 0.0074 -
2.5714 450 0.0033 -
2.8571 500 0.004 -
3.1429 550 0.0036 -
3.4286 600 0.0036 -
3.7143 650 0.0036 -
4.0 700 0.0036 -
4.2857 750 0.0027 -
4.5714 800 0.0034 -
4.8571 850 0.004 -
5.1429 900 0.0016 -
5.4286 950 0.0001 -
5.7143 1000 0.0 -
6.0 1050 0.0 -
6.2857 1100 0.0 -
6.5714 1150 0.0 -
6.8571 1200 0.0 -
7.1429 1250 0.0 -
7.4286 1300 0.0 -
7.7143 1350 0.0 -
8.0 1400 0.0 -
8.2857 1450 0.0 -
8.5714 1500 0.0 -
8.8571 1550 0.0 -
9.1429 1600 0.0 -
9.4286 1650 0.0 -
9.7143 1700 0.0 -
10.0 1750 0.0 -
10.2857 1800 0.0 -
10.5714 1850 0.0 -
10.8571 1900 0.0 -
11.1429 1950 0.0 -
11.4286 2000 0.0 -
11.7143 2050 0.0 -
12.0 2100 0.0 -
12.2857 2150 0.0 -
12.5714 2200 0.0 -
12.8571 2250 0.0 -
13.1429 2300 0.0 -
13.4286 2350 0.0 -
13.7143 2400 0.0 -
14.0 2450 0.0 -
14.2857 2500 0.0 -
14.5714 2550 0.0 -
14.8571 2600 0.0 -
15.1429 2650 0.0 -
15.4286 2700 0.0 -
15.7143 2750 0.0 -
16.0 2800 0.0 -
16.2857 2850 0.0 -
16.5714 2900 0.0 -
16.8571 2950 0.0 -
17.1429 3000 0.0 -
17.4286 3050 0.0 -
17.7143 3100 0.0 -
18.0 3150 0.0 -
18.2857 3200 0.0 -
18.5714 3250 0.0 -
18.8571 3300 0.0 -
19.1429 3350 0.0 -
19.4286 3400 0.0 -
19.7143 3450 0.0 -
20.0 3500 0.0 -
20.2857 3550 0.0 -
20.5714 3600 0.0 -
20.8571 3650 0.0 -
21.1429 3700 0.0 -
21.4286 3750 0.0 -
21.7143 3800 0.0 -
22.0 3850 0.0 -
22.2857 3900 0.0 -
22.5714 3950 0.0 -
22.8571 4000 0.0 -
23.1429 4050 0.0 -
23.4286 4100 0.0 -
23.7143 4150 0.0 -
24.0 4200 0.0 -
24.2857 4250 0.0 -
24.5714 4300 0.0 -
24.8571 4350 0.0 -
25.1429 4400 0.0 -
25.4286 4450 0.0 -
25.7143 4500 0.0 -
26.0 4550 0.0 -
26.2857 4600 0.0 -
26.5714 4650 0.0 -
26.8571 4700 0.0 -
27.1429 4750 0.0 -
27.4286 4800 0.0 -
27.7143 4850 0.0 -
28.0 4900 0.0 -
28.2857 4950 0.0 -
28.5714 5000 0.0 -
28.8571 5050 0.0 -
29.1429 5100 0.0 -
29.4286 5150 0.0 -
29.7143 5200 0.0 -
30.0 5250 0.0 -

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.1.0
  • Sentence Transformers: 3.3.1
  • Transformers: 4.44.2
  • PyTorch: 2.2.0a0+81ea7a4
  • Datasets: 3.2.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
1,040
Safetensors
Model size
111M params
Tensor type
F32
·
Inference Examples
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated) instead.

Model tree for mini1013/master_cate_fi7

Base model

klue/roberta-base
Finetuned
(213)
this model

Evaluation results