SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
9.0
  • '남아 여아 아동 주니어 드로즈 사각 팬티 속옷 5종 세트 여아_13_베리 WPS-945_90 출산/육아 > 유아동언더웨어/잠옷 > 팬티'
  • '캐치티니핑 산리오 시크릿쥬쥬 엘사 유아 여아 남아 시나모롤 마이멜로디 피카츄 드로즈 팬티 S03.마이멜로디 팬티(3종)_마이멜로디 팬티_80호(11~12세) 출산/육아 > 유아동언더웨어/잠옷 > 팬티'
  • '탑텐키즈 23년 S/S (남,여아) 코튼 팬티 세트 (2매입) 2종 택1 (MKD5UP1001/MKD5UP2001) GNP(그린공룡)_65 출산/육아 > 유아동언더웨어/잠옷 > 팬티'
6.0
  • '아동바지 셔링 여아속바지 아동잠옷 아동실내복 블랙_15호 출산/육아 > 유아동언더웨어/잠옷 > 속치마/속바지'
  • 'per1101 티셔츠 유지 키즈 유아레깅스 속바지 2p세트 아동바지속치마 기본속치마 유복 블랙2p_19호 출산/육아 > 유아동언더웨어/잠옷 > 속치마/속바지'
  • '스판 속바지 키즈 여아 4부 5부 이너 레깅스 도비레깅스(4부)_그레이_XL 출산/육아 > 유아동언더웨어/잠옷 > 속치마/속바지'
5.0
  • 'HY 주니어 스포츠 1단계 브라팬티세트 주니어속옷 80A/XL 핑크 출산/육아 > 유아동언더웨어/잠옷 > 브라팬티세트'
  • '성장기 여아 브라세트 초등 청소년 주니어 속옷세트 선택01.위니 브라팬티(4961/ 1204)_베이지_55(L)/100(XL) 출산/육아 > 유아동언더웨어/잠옷 > 브라팬티세트'
  • '모아천일 2단계 주니어 노와이어 브라팬티 노몰드 세트 A컵 주니어이너웨어 75A/L 베이지 출산/육아 > 유아동언더웨어/잠옷 > 브라팬티세트'
2.0
  • '사계절 초극세사 속바지 사각팬티 L(90)_스킨 출산/육아 > 유아동언더웨어/잠옷 > 러닝팬티세트'
  • '자연섬유 학생 가벼운 속바지 3부 성인팬티 10대여자속옷 XL(95)_블랙 출산/육아 > 유아동언더웨어/잠옷 > 러닝팬티세트'
  • '[2021] 상어핑크 여아 면스판 속옷 (런닝 사각 삼각 선택) 삼각 80호 (11~12세) 출산/육아 > 유아동언더웨어/잠옷 > 러닝팬티세트'
8.0
  • '[삐삐롱]가을맞이 신상 9부 잠옷 파자마 남아 여아 파자마파티 어린이집 13_팝베어 좌우사편면_80 출산/육아 > 유아동언더웨어/잠옷 > 잠옷/홈웨어'
  • '국내 면 주니어 아동잠옷 여아 남아 유아 초등학생 키즈 파자마파티 레브마인 반팔 상하 세트_70_스위트야미 여아_85 출산/육아 > 유아동언더웨어/잠옷 > 잠옷/홈웨어'
  • '무냐무냐GFM남홈웨어긴팔세트07 MDGBBMJF15 80 출산/육아 > 유아동언더웨어/잠옷 > 잠옷/홈웨어'
3.0
  • '순면 배변 훈련 팬티 (2장 1세트) 203575 아기배변팬티 유아배변팬티 D상어M 출산/육아 > 유아동언더웨어/잠옷 > 배변훈련팬티'
  • '[씨엘스토리] 캐릭터 아동팬티 런닝 남아 여아 세트 타요 뽀로로 슈퍼잭 13_타요 여아런닝_75 출산/육아 > 유아동언더웨어/잠옷 > 배변훈련팬티'
  • 'Per1109 유아 아기 중 3장1세트 단색파스텔팬티 남아 여아 204917 펀칭팬티 옐로우90 출산/육아 > 유아동언더웨어/잠옷 > 배변훈련팬티'
1.0
  • '유아 민소매 나시 아기 밤부런닝 1+1 07_틴트 밤부 무형광 런닝_04_체키 밤부 무형광 런닝_120호 출산/육아 > 유아동언더웨어/잠옷 > 러닝'
  • '무냐무냐[주니어관] HFM여주텐셀모달브라101 70호 출산/육아 > 유아동언더웨어/잠옷 > 러닝'
  • '[삐삐롱]23S신상 사계절 무형광 여아 런닝 팬티 드로즈 반팔티 모음전 06_체리키티_롱드로즈 면스판_65 출산/육아 > 유아동언더웨어/잠옷 > 러닝'
4.0
  • '주니어 여학생 여아 브라 속옷 순면 1 2 3 단계 초등 중 고등 학생 스포츠 런닝브라 1단계_17_런닝브라 GSR1525_팬티 / 90 출산/육아 > 유아동언더웨어/잠옷 > 브라'
  • '주니어 브라 스포츠브라 초등 학생 브라 속옷 어린이 브래지어 1단계 런닝_BB100_텐셀(6620) 화이트 2XL 95 출산/육아 > 유아동언더웨어/잠옷 > 브라'
  • '여아 여름 초딩브라 2단계 노푸쉬 A컵 75A_그레이 출산/육아 > 유아동언더웨어/잠옷 > 브라'
0.0
  • '피카부 실내복 유아 아기 키즈 신생아 가을 여자 아기옷 남자 아동내복세트 PK 뉴모달세트(실내복상하)_민트_S (유아복 5호 12-14kg) 출산/육아 > 유아동언더웨어/잠옷 > 내의/내복'
  • '피카부 유아 아기 실내복 크리스마스 내복 키즈 기모 신생아 내의 봄 여름 가을 겨울 ★BEST★츄츄세트(슬림핏)_진회색_XL 출산/육아 > 유아동언더웨어/잠옷 > 내의/내복'
  • '피카부 실내복 가을 겨울 봄 돌아기 유아 내복 이든세트_브라운_XS 출산/육아 > 유아동언더웨어/잠옷 > 내의/내복'
7.0
  • '유아 부들부들 밍크털 겨울 아기수면조끼 수면가디건 몽몽 구름수면조끼_핑크_2XL 출산/육아 > 유아동언더웨어/잠옷 > 수면조끼'
  • '사계절 아기 수면조끼 실내 유아 신생아 겨울 수면조끼 25종 작은곰 수면조끼_베이지_XL 출산/육아 > 유아동언더웨어/잠옷 > 수면조끼'
  • '아기 수면조끼 아동 실내조끼 여아 남아 보온 가을 겨울 간절기 돌아기 누빔조끼 수면잠옷 4) 보아털 반조끼_1-6) 민트_11호(4~5세) 출산/육아 > 유아동언더웨어/잠옷 > 수면조끼'

Evaluation

Metrics

Label Accuracy
all 1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_bc18")
# Run inference
preds = model("아기 가을 겨울 유아 히트텍 발열내의 실내복 따수웜내의(바로배송)_크림_XL(11호) 출산/육아 > 유아동언더웨어/잠옷 > 내의/내복")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 7 15.4771 28
Label Training Sample Count
0.0 70
1.0 70
2.0 70
3.0 70
4.0 70
5.0 70
6.0 70
7.0 70
8.0 70
9.0 70

Training Hyperparameters

  • batch_size: (256, 256)
  • num_epochs: (30, 30)
  • max_steps: -1
  • sampling_strategy: oversampling
  • num_iterations: 50
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: False

Training Results

Epoch Step Training Loss Validation Loss
0.0073 1 0.4833 -
0.3650 50 0.4883 -
0.7299 100 0.3506 -
1.0949 150 0.1976 -
1.4599 200 0.119 -
1.8248 250 0.089 -
2.1898 300 0.0664 -
2.5547 350 0.0492 -
2.9197 400 0.018 -
3.2847 450 0.012 -
3.6496 500 0.0084 -
4.0146 550 0.0005 -
4.3796 600 0.0003 -
4.7445 650 0.0002 -
5.1095 700 0.0002 -
5.4745 750 0.0002 -
5.8394 800 0.0001 -
6.2044 850 0.0001 -
6.5693 900 0.0001 -
6.9343 950 0.0001 -
7.2993 1000 0.0001 -
7.6642 1050 0.0001 -
8.0292 1100 0.0001 -
8.3942 1150 0.0001 -
8.7591 1200 0.0001 -
9.1241 1250 0.0001 -
9.4891 1300 0.0001 -
9.8540 1350 0.0001 -
10.2190 1400 0.0001 -
10.5839 1450 0.0001 -
10.9489 1500 0.0001 -
11.3139 1550 0.0001 -
11.6788 1600 0.0001 -
12.0438 1650 0.0001 -
12.4088 1700 0.0 -
12.7737 1750 0.0 -
13.1387 1800 0.0 -
13.5036 1850 0.0 -
13.8686 1900 0.0 -
14.2336 1950 0.0 -
14.5985 2000 0.0 -
14.9635 2050 0.0 -
15.3285 2100 0.0 -
15.6934 2150 0.0 -
16.0584 2200 0.0 -
16.4234 2250 0.0 -
16.7883 2300 0.0 -
17.1533 2350 0.0 -
17.5182 2400 0.0 -
17.8832 2450 0.0 -
18.2482 2500 0.0 -
18.6131 2550 0.0 -
18.9781 2600 0.0 -
19.3431 2650 0.0 -
19.7080 2700 0.0 -
20.0730 2750 0.0 -
20.4380 2800 0.0 -
20.8029 2850 0.0 -
21.1679 2900 0.0012 -
21.5328 2950 0.0001 -
21.8978 3000 0.0 -
22.2628 3050 0.0 -
22.6277 3100 0.0 -
22.9927 3150 0.0 -
23.3577 3200 0.0 -
23.7226 3250 0.0 -
24.0876 3300 0.0 -
24.4526 3350 0.0 -
24.8175 3400 0.0 -
25.1825 3450 0.0 -
25.5474 3500 0.0 -
25.9124 3550 0.0 -
26.2774 3600 0.0 -
26.6423 3650 0.0 -
27.0073 3700 0.0 -
27.3723 3750 0.0 -
27.7372 3800 0.0 -
28.1022 3850 0.0 -
28.4672 3900 0.0 -
28.8321 3950 0.0 -
29.1971 4000 0.0 -
29.5620 4050 0.0 -
29.9270 4100 0.0 -

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.1.0
  • Sentence Transformers: 3.3.1
  • Transformers: 4.44.2
  • PyTorch: 2.2.0a0+81ea7a4
  • Datasets: 3.2.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
130
Safetensors
Model size
111M params
Tensor type
F32
·
Inference Providers NEW
This model is not currently available via any of the supported third-party Inference Providers, and the model is not deployed on the HF Inference API.

Model tree for mini1013/master_cate_bc18

Base model

klue/roberta-base
Finetuned
(213)
this model

Evaluation results