SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
11.0
  • '음파 진동기 덜덜이 쉐이크보드 운동기구 뱃살 지방 코어 태우기 다이어트 스포츠/레저>헬스>진동운동기'
  • '덜덜이 전신 진동 진동기 쉐이크 음파 운동기구 스포츠/레저>헬스>진동운동기'
  • '쉐이킹보드 진동 다이어트 실내 피트니스 머신 체형관리 운동기 가정용 전신 플레이트 덜덜이 스포츠/레저>헬스>진동운동기'
13.0
  • '아이워너 접이식 타원형 손잡이 트램폴린 2인용 스포츠/레저>헬스>트램펄린'
  • '멜킨스포츠 스포츠 트램폴린 55인치 스포츠/레저>헬스>트램펄린'
  • '반석스포츠 맥스클럽 트램폴린 스포츠/레저>헬스>트램펄린'
10.0
  • 'JJR 3 1m 단체 구슬줄넘기 슬림구슬 DYG103150 스포츠/레저>헬스>줄넘기'
  • 'R-WAVE 1635 줄넘기 우드 줄넘기 나무 스포츠/레저>헬스>줄넘기'
  • '아이워너 선수용 줄넘기 다이어트 헬스 유산소운동 꼬임방지베어링 줄길이조절가능 스포츠/레저>헬스>줄넘기'
1.0
  • '엑사이더 슬림한 워킹패드 런닝머신 EW771R 스포츠/레저>헬스>러닝머신>접이식'
  • '바디엑스 X7 가정용 러닝머신 스포츠/레저>헬스>러닝머신>접이식'
  • '이고진 런닝머신 LT01 가정용 유산소 운동 기구 홈트 저소음 실내 워킹 패드 접이식 스포츠/레저>헬스>러닝머신>접이식'
15.0
  • '좌식 실내 자전거 운동기구 스피닝 가정용 바이크 헬스싸이클 스포츠/레저>헬스>헬스사이클'
  • '실내자전거 운동 스피닝 바이크 가정용 좌식 접이식 스포츠/레저>헬스>헬스사이클'
  • '좌식자전거 유산소 실내자전거 무소음 운동기구 홈트 사이클 릴렉스 헬스 바이크 다이어트 스포츠/레저>헬스>헬스사이클'
17.0
  • '신신상사 스타스포츠 S로즈 3.1 EA3001 훌라후프 스포츠/레저>헬스>훌라후프'
  • '닥터웰 웰서클 훌라후프 DR-54 스포츠/레저>헬스>훌라후프'
  • '나노소프트 BFIT 앱 폼 훌라후프 상급용 1.8KG 스포츠/레저>헬스>훌라후프'
3.0
  • '월드 클럽용 벨트 마사지기 - 논슬립 강철발판 덜덜이 BODY-0516 스포츠/레저>헬스>벨트마사지'
  • '골드스톤 벨트마사지기 덜덜이 속도조절 클럽용 실내운동기구 진동운동기구 GS10000 스포츠/레저>헬스>벨트마사지'
  • '아이워너 PVC 삼각 아령 3kg 스모키라벤더 스포츠/레저>헬스>벨트마사지'
14.0
  • '허리 트레이닝 스트레칭 발판 원판 지압 회전 WW710C12 스포츠/레저>헬스>트위스트'
  • '슈어밸류A 홈짐 허리운동 허리회전 등허리 트위스트 기구 CH-A103714 스포츠/레저>헬스>트위스트'
  • '트위스트 전신 운동 기구 홈트 실내 허리 스포츠/레저>헬스>트위스트'
4.0
  • '로만체어 척추 기립근 복부 허리 운동기구 로망체어 스포츠/레저>헬스>복근운동기구'
  • '복근 진동 EMS 벨트 허리 피트니스 패드 저주파 자극 스포츠/레저>헬스>복근운동기구'
  • '로만 체어 백익스텐션 운동기구 코어 기립근 옆구리 스포츠/레저>헬스>복근운동기구'
6.0
  • '승마 미끄럼 방지 장비 말-B 스포츠/레저>헬스>승마운동기'
  • '승마용 퀄팅 부츠 가방 수납 승마용품 보관 장비 스포츠/레저>헬스>승마운동기'
  • '승마 가죽 채찍 말 훈련 도구 라이딩 전문가용 스포츠/레저>헬스>승마운동기'
8.0
  • '홈트레이닝 최신 4줄 전신튜빙밴드 바디쉐이퍼 튜빙밴드 복근운동 헬스 스포츠/레저>헬스>웨이트기구>웨이트용품'
  • '스미스 머신 가정용 파워랙 멀티랙 로잉 운동기구 홈트 세트 홈짐 스미스 용문대 누적기 130kg 솔리드 스포츠/레저>헬스>웨이트기구>복합헬스머신'
  • 'modoo 스트레칭 요가 밴드 스포츠/레저>헬스>웨이트기구>웨이트용품'
9.0
  • '일립티컬 유산소 스카이워커 홈트 실내 입식 바이크 스포츠/레저>헬스>일립티컬'
  • '워커 접이식 기구 머신 운동 일립티컬 가정용 유산소 실내 홈트 헬스 운동기구 스포츠/레저>헬스>일립티컬'
  • '일립티컬머신 걷기운동 스카이 스텝밀 무소음 계단 스포츠/레저>헬스>일립티컬'
2.0
  • '실내자전거 매트 로잉머신 충격흡수 발판 방음 소음방지 12 L 스포츠/레저>헬스>로잉머신'
  • '가정용 로잉머신 접이식 조정 전신 운동 홈트 노젓기 스포츠/레저>헬스>로잉머신'
  • '가정용 로잉머신 노젓기 워터 운동 조정 스포츠/레저>헬스>로잉머신'
7.0
  • 'CNK 육각 아령 스포츠/레저>헬스>아령/덤벨'
  • '모아그룹 모아클래스 논슬립 덤벨 스포츠/레저>헬스>아령/덤벨'
  • '우성레포츠 아리프 냄새없는 PEV 육각 덤벨 스포츠/레저>헬스>아령/덤벨'
12.0
  • '멜킨스포츠 케틀벨 스포츠/레저>헬스>케틀벨'
  • '바디엑스 소프트 케틀벨 스포츠/레저>헬스>케틀벨'
  • '대연 스포빅스 PVC 스타일 케틀벨 스포츠/레저>헬스>케틀벨'
5.0
  • '클라이머 스탭퍼 가정용 암벽등반 등산 천국의 계단 스포츠/레저>헬스>스텝퍼'
  • '마운틴 클라이머 스텝퍼 사다리 걷기 천국의계단 홈트 클라이머운동기구 스포츠/레저>헬스>스텝퍼'
  • '스텝퍼 계단오르기기구 클라이머 클라임밀 스텝머신 스포츠/레저>헬스>스텝퍼'
16.0
  • '균형잡기 발란스 보드 밸런스 패드 허벅지 근육 운동 스포츠/레저>헬스>헬스소품>기타헬스소품'
  • '파워풀 강도조절 카운트 악력기 그린 스포츠/레저>헬스>헬스소품>악력기'
  • '오너클랜 관절 손상 최소화 스트레칭 운동 밸런스 패드 W3BB69C 스포츠/레저>헬스>헬스소품>기타헬스소품'
0.0
  • '와이앤에이치 렉스파 전동 거꾸리 YA-810 스포츠/레저>헬스>거꾸리'
  • '멜킨스포츠 세이프존 가정용 프리미엄 거꾸리 운동 기구 허리운동 스포츠/레저>헬스>거꾸리'
  • '와이앤에이치 렉스파 가정용 거꾸리 YA-740 스포츠/레저>헬스>거꾸리'

Evaluation

Metrics

Label Accuracy
all 1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_sl31")
# Run inference
preds = model("허리 단련 운동 허리강화 로마의자 로만체어 옆구리 스포츠/레저>헬스>복근운동기구")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 2 8.0378 18
Label Training Sample Count
0.0 3
1.0 70
2.0 70
3.0 70
4.0 70
5.0 70
6.0 70
7.0 70
8.0 70
9.0 70
10.0 70
11.0 70
12.0 69
13.0 70
14.0 68
15.0 70
16.0 70
17.0 70

Training Hyperparameters

  • batch_size: (256, 256)
  • num_epochs: (30, 30)
  • max_steps: -1
  • sampling_strategy: oversampling
  • num_iterations: 50
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: False

Training Results

Epoch Step Training Loss Validation Loss
0.0043 1 0.499 -
0.2146 50 0.4998 -
0.4292 100 0.4521 -
0.6438 150 0.2435 -
0.8584 200 0.093 -
1.0730 250 0.0291 -
1.2876 300 0.012 -
1.5021 350 0.0065 -
1.7167 400 0.0045 -
1.9313 450 0.0039 -
2.1459 500 0.0041 -
2.3605 550 0.0021 -
2.5751 600 0.0002 -
2.7897 650 0.0001 -
3.0043 700 0.0001 -
3.2189 750 0.0001 -
3.4335 800 0.0001 -
3.6481 850 0.0001 -
3.8627 900 0.0001 -
4.0773 950 0.0001 -
4.2918 1000 0.0001 -
4.5064 1050 0.0001 -
4.7210 1100 0.0001 -
4.9356 1150 0.0 -
5.1502 1200 0.0 -
5.3648 1250 0.0 -
5.5794 1300 0.0 -
5.7940 1350 0.0 -
6.0086 1400 0.0 -
6.2232 1450 0.0 -
6.4378 1500 0.0 -
6.6524 1550 0.0 -
6.8670 1600 0.0 -
7.0815 1650 0.0 -
7.2961 1700 0.0 -
7.5107 1750 0.0 -
7.7253 1800 0.0 -
7.9399 1850 0.0 -
8.1545 1900 0.0 -
8.3691 1950 0.0 -
8.5837 2000 0.0 -
8.7983 2050 0.0 -
9.0129 2100 0.0 -
9.2275 2150 0.0 -
9.4421 2200 0.0 -
9.6567 2250 0.0 -
9.8712 2300 0.0 -
10.0858 2350 0.0 -
10.3004 2400 0.0 -
10.5150 2450 0.0 -
10.7296 2500 0.0 -
10.9442 2550 0.0 -
11.1588 2600 0.0 -
11.3734 2650 0.0 -
11.5880 2700 0.0 -
11.8026 2750 0.0 -
12.0172 2800 0.0 -
12.2318 2850 0.0 -
12.4464 2900 0.0 -
12.6609 2950 0.0 -
12.8755 3000 0.0 -
13.0901 3050 0.0 -
13.3047 3100 0.0 -
13.5193 3150 0.0 -
13.7339 3200 0.0 -
13.9485 3250 0.0 -
14.1631 3300 0.0 -
14.3777 3350 0.0 -
14.5923 3400 0.0 -
14.8069 3450 0.0 -
15.0215 3500 0.0 -
15.2361 3550 0.0 -
15.4506 3600 0.0 -
15.6652 3650 0.0 -
15.8798 3700 0.0 -
16.0944 3750 0.0 -
16.3090 3800 0.0 -
16.5236 3850 0.0 -
16.7382 3900 0.0 -
16.9528 3950 0.0 -
17.1674 4000 0.0 -
17.3820 4050 0.0 -
17.5966 4100 0.0 -
17.8112 4150 0.0 -
18.0258 4200 0.0 -
18.2403 4250 0.0 -
18.4549 4300 0.0 -
18.6695 4350 0.0 -
18.8841 4400 0.0 -
19.0987 4450 0.0 -
19.3133 4500 0.0 -
19.5279 4550 0.0 -
19.7425 4600 0.0 -
19.9571 4650 0.0 -
20.1717 4700 0.0 -
20.3863 4750 0.0 -
20.6009 4800 0.0 -
20.8155 4850 0.0 -
21.0300 4900 0.0 -
21.2446 4950 0.0 -
21.4592 5000 0.0 -
21.6738 5050 0.0 -
21.8884 5100 0.0 -
22.1030 5150 0.0 -
22.3176 5200 0.0 -
22.5322 5250 0.0 -
22.7468 5300 0.0 -
22.9614 5350 0.0 -
23.1760 5400 0.0 -
23.3906 5450 0.0 -
23.6052 5500 0.0 -
23.8197 5550 0.0 -
24.0343 5600 0.0 -
24.2489 5650 0.0 -
24.4635 5700 0.0 -
24.6781 5750 0.0 -
24.8927 5800 0.0 -
25.1073 5850 0.0 -
25.3219 5900 0.0 -
25.5365 5950 0.0 -
25.7511 6000 0.0 -
25.9657 6050 0.0 -
26.1803 6100 0.0 -
26.3948 6150 0.0 -
26.6094 6200 0.0 -
26.8240 6250 0.0 -
27.0386 6300 0.0 -
27.2532 6350 0.0 -
27.4678 6400 0.0 -
27.6824 6450 0.0 -
27.8970 6500 0.0 -
28.1116 6550 0.0 -
28.3262 6600 0.0 -
28.5408 6650 0.0 -
28.7554 6700 0.0 -
28.9700 6750 0.0 -
29.1845 6800 0.0 -
29.3991 6850 0.0 -
29.6137 6900 0.0 -
29.8283 6950 0.0 -

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.1.0
  • Sentence Transformers: 3.3.1
  • Transformers: 4.44.2
  • PyTorch: 2.2.0a0+81ea7a4
  • Datasets: 3.2.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
1,210
Safetensors
Model size
111M params
Tensor type
F32
·
Inference Examples
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated) instead.

Model tree for mini1013/master_cate_sl31

Base model

klue/roberta-base
Finetuned
(213)
this model

Evaluation results