Add new SentenceTransformer model

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+  "word_embedding_dimension": 768,
+  "pooling_mode_cls_token": false,
+  "pooling_mode_mean_tokens": true,
+  "pooling_mode_max_tokens": false,
+  "pooling_mode_mean_sqrt_len_tokens": false,
+  "pooling_mode_weightedmean_tokens": false,
+  "pooling_mode_lasttoken": false,
+  "include_prompt": true
+}

README.md

@@ -0,0 +1,753 @@
+---
+base_model: VoVanPhuc/sup-SimCSE-VietNamese-phobert-base
+library_name: sentence-transformers
+pipeline_tag: sentence-similarity
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:120210
+- loss:MultipleNegativesRankingLoss
+widget:
+- source_sentence: Chủ tịch Ủy ban nhân dân xã có quyền ra quyết định cưỡng chế tháo
+    dỡ công trình xây dựng trên đất nông nghiệp khi chưa chuyển mục đích sử dụng đất
+    hay không?
+  sentences:
+  - 'Đối tượng, điều kiện kéo dài tuổi phục vụ tại ngũ
+
+    1. Đối tượng:
+
+    a) Quân nhân chuyên nghiệp có trình độ cao đẳng trở lên đang đảm nhiệm các chức
+    danh: Kỹ thuật viên, Nhân viên Kỹ thuật, Huấn luyện viên, Nghệ sĩ, Nhạc sĩ, Diễn
+    viên làm việc đúng chuyên ngành đào tạo ở các cơ sở nghiên cứu, nhà trường, bệnh
+    viện, trung tâm thể dục thể thao, đoàn nghệ thuật, nhà máy, doanh nghiệp quốc
+    phòng; đơn vị đóng quân ở địa bàn vùng sâu, vùng xa, biên giới, hải đảo.
+
+    b) Quân nhân chuyên nghiệp đang làm việc thuộc các chuyên ngành hẹp được đào tạo
+    công phu hoặc chuyên ngành Quân đội chưa đào tạo được; thợ bậc cao.
+
+    c) Quân nhân chuyên nghiệp đang đảm nhiệm chức vụ chỉ huy, quản lý ở các nhà máy,
+    doanh nghiệp quốc phòng.
+
+    d) Quân nhân chuyên nghiệp không thuộc đối tượng quy định tại điểm a, điểm b,
+    điểm c khoản này do Bộ trưởng Bộ Quốc phòng quyết định.
+
+    2. Điều kiện:
+
+    Quân nhân chuyên nghiệp thuộc đối tượng quy định tại khoản 1 Điều này được kéo
+    dài tuổi phục vụ tại ngũ khi có đủ các điều kiện sau:
+
+    a) Đơn vị có biên chế và nhu cầu sử dụng;
+
+    b) Hết hạn tuổi phục vụ tại ngũ cao nhất theo cấp bậc quân hàm quy định tại khoản
+    2 Điều 17 Luật Quân nhân chuyên nghiệp, công nhân và viên chức quốc phòng; chưa
+    có người thay thế; tự nguyện tiếp tục phục vụ tại ngũ;
+
+    c) Có đủ phẩm chất chính trị, đạo đức, sức khỏe để hoàn thành nhiệm vụ được giao;
+
+    d) Có trình độ chuyên môn kỹ thuật, nghiệp vụ giỏi; tay nghề cao; chất lượng,
+    hiệu quả công tác tốt.'
+  - 'Thi hành quyết định cưỡng chế
+
+    1. Người ra quyết định cưỡng chế có trách nhiệm gửi ngay quyết định cưỡng chế
+    cho các cá nhân, tổ chức liên quan và tổ chức thực hiện việc cưỡng chế thi hành
+    quyết định xử phạt của mình và của cấp dưới.
+
+    ..."'
+  - 'Trình tự, thủ tục đăng ký tài khoản định danh điện tử đối với công dân Việt Nam
+
+    1. Đăng ký tài khoản định danh điện tử mức độ 1 qua ứng dụng VNelD đối với công
+    dân đã có thẻ Căn cước công dân gắn chíp điện tử
+
+    a) Công dân sử dụng thiết bị di động tải và cài đặt ứng dụng VNelD.
+
+    b) Công dân sử dụng ứng dụng VNelD để nhập thông tin về số định danh cá nhân và
+    số điện thoại hoặc địa chỉ thư điện tử; cung cấp các thông tin theo hướng dẫn
+    trên ứng dụng VNelD; thu nhận ảnh chân dung bằng thiết bị di động và gửi yêu cầu
+    đề nghị cấp tài khoản định danh điện tử tới cơ quan quản lý định danh và xác thực
+    điện tử qua ứng dụng VNelD.
+
+    c) Cơ quan quản lý định danh điện tử thông báo kết quả đăng ký tài khoản qua ứng
+    dụng VNelD hoặc tin nhắn SMS hoặc địa chỉ thư điện tử.
+
+    2. Đăng ký tài khoản định danh điện tử mức độ 2
+
+    a) Đối với công dân đã được cấp thẻ Căn cước công dân gắn chíp điện tử:
+
+    Công dân đến Công an xã, phường, thị trấn hoặc nơi làm thủ tục cấp thẻ Căn cước
+    công dân để làm thủ tục cấp tài khoản định danh điện tử. Công dân xuất trình thẻ
+    Căn cước công dân gắn chíp điện tử, cung cấp thông tin về số điện thoại hoặc địa
+    chỉ thư điện tử và đề nghị bổ sung thông tin được tích hợp vào tài khoản định
+    danh điện tử.
+
+    Cán bộ tiếp nhận nhập thông tin công dân cung cấp vào hệ thống định danh và xác
+    thực điện tử; chụp ảnh chân dung, thu nhận vân tay của công dân đến làm thủ tục
+    để xác thực với Cơ sở dữ liệu căn cước công dân và khẳng định sự đồng ý đăng ký
+    tạo lập tài kho���n định danh điện tử.
+
+    Cơ quan quản lý định danh điện tử thông báo kết quả đăng ký tài khoản qua ứng
+    dụng VNelD hoặc tin nhắn SMS hoặc địa chỉ thư điện tử.
+
+    b) Cơ quan Công an tiến hành cấp tài khoản định danh điện tử mức độ 2 cùng với
+    cấp thẻ Căn cước công dân với trường hợp công dân chưa được cấp Căn cước công
+    dân gắn chíp điện tử.'
+- source_sentence: Mức hưởng chế độ thai sản đối với lao động nam là người nước ngoài
+    được pháp luật quy định như thế nào?
+  sentences:
+  - '"Điều 21. Thông báo kết quả và xác nhận nhập học
+
+    1. Cơ sở đào tạo gửi giấy báo trúng tuyển cho những thí sinh trúng tuyển, trong
+    đó ghi rõ những thủ tục cần thiết đối với thí sinh khi nhập học và phương thức
+    nhập học của thí sinh.
+
+    2. Thí sinh xác nhận nhập học bằng hình thức trực tuyến trên hệ thống, trước khi
+    nhập học tại cơ sở đào tạo.
+
+    3. Đối với những thí sinh không xác nhận nhập học trong thời hạn quy định:
+
+    a) Nếu không có lý do chính đáng thì coi như thí sinh từ chối nhập học và cơ sở
+    đào tạo có quyền không tiếp nhận;
+
+    b) Nếu do ốm đau, tai nạn, có giấy xác nhận của bệnh viện quận, huyện trở lên
+    hoặc do thiên tai có xác nhận của UBND quận, huyện trở lên, cơ sở đào tạo xem
+    xét quyết định tiếp nhận thí sinh vào học hoặc bảo lưu kết quả tuyển sinh để thí
+    sinh vào học sau;
+
+    c) Nếu do sai sót, nhầm lẫn của cán bộ thực hiện công tác tuyển sinh hoặc cá nhân
+    thí sinh gây ra, cơ sở đào tạo chủ động phối hợp với các cá nhân, tổ chức liên
+    quan xem xét các minh chứng và quyết định việc tiếp nhận thí sinh vào học hoặc
+    bảo lưu kết quả tuyển sinh để thí sinh vào học sau.
+
+    4. Thí sinh đã xác nhận nhập học tại một cơ sở đào tạo không được tham gia xét
+    tuyển ở nơi khác hoặc ở các đợt xét tuyển bổ sung, trừ trường hợp được cơ sở đào
+    tạo cho phép."'
+  - 'Tổ chức, nhiệm vụ, quyền hạn của Ban Chỉ huy
+
+    ...
+
+    2. Nhiệm vụ, quyền hạn của Ban Chỉ huy:
+
+    a) Chỉ đạo xây dựng, ban hành quy định về công tác bảo đảm an toàn PCCC và CNCH
+    tại Trụ sở cơ quan Bộ Tư pháp.
+
+    b) Hướng dẫn, phối hợp với các đơn vị thuộc Bộ và chỉ đạo Đội PCCC và CNCH cơ
+    sở tổ chức tuyên truyền, bồi dưỡng nghiệp vụ PCCC và CNCH.
+
+    c) Chỉ đạo Đội PCCC và CNCH cơ sở tại Trụ sở cơ quan Bộ Tư pháp xây dựng, trình
+    cấp có thẩm quyền phê duyệt và tổ chức thực tập phương án PCCC, phương án CNCH.
+
+    d) Chỉ đạo Đội PCCC và CNCH cơ sở tại Trụ sở cơ quan Bộ Tư pháp quản lý các trang
+    thiết bị PCCC và CNCH.
+
+    đ) Chỉ đạo chữa cháy, CNCH khi xảy ra cháy, sự cố, tai nạn tại Trụ sở cơ quan
+    Bộ Tư pháp.
+
+    e) Chỉ đạo việc tổ chức lập và lưu giữ hồ sơ quản lý, theo dõi hoạt động PCCC,
+    CNCH tại Trụ sở cơ quan Bộ Tư pháp.
+
+    g) Chỉ đạo việc sơ kết, tổng kết các hoạt động về PCCC và CNCH của cơ quan; kiểm
+    tra, đôn đốc việc chấp hành các quy định về PCCC và CNCH.
+
+    h) Đề xuất việc khen thưởng, kỷ luật các tập thể, cá nhân trong việc thực hiện
+    công tác PCCC, CNCH.
+
+    i) Chỉ đạo Đội PCCC và CNCH cơ sở dự trù kinh phí cho các hoạt động PCCC và CNCH
+    tại Trụ sở cơ quan Bộ Tư pháp.
+
+    k) Thực hiện các nhiệm vụ khác do Bộ trưởng giao và theo quy định của pháp luật.'
+  - 'Mức hưởng chế độ thai sản
+
+    ...
+
+    b) Mức hưởng một ngày đối với trường hợp quy định tại Điều 32 và khoản 2 Điều
+    34 của Luật này được tính bằng mức hưởng chế độ thai sản theo tháng chia cho 24
+    ngày.'
+- source_sentence: Doanh nghiệp được áp dụng chế độ ưu tiên không cung cấp báo cáo
+    kiểm toán đúng thời hạn bị phạt bao nhiêu tiền?
+  sentences:
+  - 'Thay đổi Thẩm phán, Hội thẩm
+
+    1. Thẩm phán, Hội thẩm phải từ chối tham gia xét xử hoặc bị thay đổi khi thuộc
+    một trong các trường hợp:
+
+    a) Trường hợp quy định tại Điều 49 của Bộ luật này;
+
+    b) Họ cùng trong một Hội đồng xét xử và là người thân thích với nhau;
+
+    c) Đã tham gia xét xử sơ thẩm hoặc phúc thẩm hoặc tiến hành tố tụng vụ án đó với
+    tư cách là Điều tra viên, Cán bộ điều tra, Kiểm sát viên, Kiểm tra viên, Thẩm
+    tra viên, Thư ký Tòa án.
+
+    2. Việc thay đổi Thẩm phán, Hội thẩm trước khi mở phiên tòa do Chánh án hoặc Phó
+    Chánh án Tòa án được phân công giải quyết vụ án quyết định.
+
+    Thẩm phán bị thay đổi là Chánh án Tòa án thì do Chánh án Tòa án trên một cấp quyết
+    định.
+
+    Việc thay đổi Thẩm phán, Hội thẩm tại phiên tòa do Hội đồng xét xử quyết định
+    trước khi bắt đầu xét hỏi bằng cách biểu quyết tại phòng nghị án. Khi xem xét
+    thay đổi thành viên nào thì thành viên đó được trình bày ý kiến của mình, Hội
+    đồng quyết định theo đa số.
+
+    Trường hợp phải thay đổi Thẩm phán, Hội thẩm tại phiên tòa thì Hội đồng xét xử
+    ra quyết định hoãn phiên tòa.'
+  - '“Điều 21. Chấm dứt hưởng trợ cấp thất nghiệp
+
+    1. Các trường hợp người lao động đang hưởng trợ cấp thất nghiệp bị chấm dứt hưởng
+    trợ cấp thất nghiệp được quy định như sau:
+
+    e) Trong thời gian hưởng trợ cấp thất nghiệp, 03 tháng liên tục không thực hiện
+    thông báo hằng tháng về việc tìm kiếm việc làm với trung tâm dịch vụ việc làm
+    theo quy định
+
+    Ngày mà người lao động được xác định bị chấm dứt hưởng trợ cấp thất nghiệp là
+    ngày kết thúc của thời hạn thông báo tìm kiếm việc làm của tháng thứ 3 liên tục
+    mà người lao động không thực hiện thông báo hằng tháng về việc tìm kiếm việc làm."'
+  - 'Vi phạm quy định về thời hạn làm thủ tục hải quan, nộp hồ sơ thuế
+
+    ...
+
+    2. Phạt tiền từ 1.000.000 đồng đến 2.000.000 đồng đối với hành vi không thực hiện
+    đúng thời hạn quy định thuộc một trong các trường hợp sau:
+
+    a) Cung cấp báo cáo kiểm toán, báo cáo tài chính của doanh nghiệp được áp dụng
+    chế độ ưu tiên;
+
+    b) Thông báo cho cơ quan hải quan quyết định xử lý vi phạm pháp luật về quản lý
+    thuế, kế toán đối với doanh nghiệp được áp dụng chế độ ưu tiên;
+
+    c) Báo cáo về lượng hàng hóa nhập khẩu phục vụ xây dựng nhà xưởng, hàng hóa gửi
+    kho bên ngoài của doanh nghiệp chế xuất;
+
+    d) Báo cáo về lượng hàng hóa trung chuyển đưa vào, đưa ra, còn lưu tại cảng;
+
+    đ) Báo cáo thống kê thông quan hàng bưu chính đưa vào Việt Nam để chuyển tiếp
+    đi quốc tế.
+
+    ...'
+- source_sentence: Tài chính của Hội Kiểm toán viên hành nghề Việt Nam được chi cho
+    những khoản nào?
+  sentences:
+  - 'Giải thể và xử lý tài chính khi giải thể
+
+    1. Khi xét thấy hoạt động của Hội không có hiệu quả, không mang lại lợi ích cho
+    Hội viên hoặc gây phiền hà, cản trở cho Hội viên thì BCH Hội quyết định triệu
+    tập Đại hội để bàn biện pháp củng cố tổ chức hoặc giải thể Hội. Nếu giải thể Hội
+    thì do Đại hội đại biểu hoặc Đại hội toàn quốc của Hội thông qua và đề nghị cơ
+    quan Nhà nước có thẩm quyền xem xét, quyết định.
+
+    2. Khi Hội bị giải thể, Ban Thường trực và Ban Kiểm tra của Hội phải tiến hành
+    kiểm kê tài sản, kiểm quỹ và báo cáo BCH Hội quyết định việc xử lý tài sản, tiền
+    tồn quỹ và tiến hành thủ tục giải thể theo quy định của pháp luật.'
+  - '"Điều 14. Miễn trừ đối với thỏa thuận hạn chế cạnh tranh bị cấm
+
+    1. Thỏa thuận hạn chế cạnh tranh quy định tại các khoản 1, 2, 3, 7, 8, 9, 10 và
+    11 Điều 11 bị cấm theo quy định tại Điều 12 của Luật này được miễn trừ có thời
+    hạn nếu có lợi cho người tiêu dùng và đáp ứng một trong các điều kiện sau đây:
+
+    a) Tác động thúc đẩy tiến bộ kỹ thuật, công nghệ, nâng cao chất lượng hàng hóa,
+    dịch vụ;
+
+    b) Tăng cường sức cạnh tranh của doanh nghiệp Việt Nam trên thị trường quốc tế;
+
+    c) Thúc đẩy việc áp dụng thống nhất tiêu chuẩn chất lượng, định mức kỹ thuật của
+    chủng loại sản phẩm;
+
+    d) Thống nhất các điều kiện thực hiện hợp đồng, giao hàng, thanh toán nhưng không
+    liên quan đến giá và các yếu tố của giá.
+
+    2. Thỏa thuận lao động, thỏa thuận hợp tác trong các ngành, lĩnh vực đặc thù được
+    thực hiện theo quy định của luật khác thì thực hiện theo quy định của luật đó".'
+  - '"Điều 2. Sửa đổi, bổ sung một số điều của Nghị định số 15/2019/NĐ-CP ngày 01
+    tháng 02 năm 2019 của Chính phủ quy định chi tiết một số điều và biện pháp thi
+    hành Luật Giáo dục nghề nghiệp
+
+    ...
+
+    12. Sửa đổi, bổ sung Điều 24 như sau:
+
+    Điều 24. Thẩm quyền cấp giấy chứng nhận đăng ký hoạt động liên kết đào tạo với
+    nước ngoài
+
+    1. Tổng cục Giáo dục nghề nghiệp cấp giấy chứng nhận đăng ký hoạt động liên kết
+    đào tạo với nước ngoài đối với trường cao đẳng.
+
+    2. Sở Lao động - Thương binh và Xã hội nơi trường trung cấp, trung tâm giáo dục
+    nghề nghiệp, trung tâm giáo dục nghề nghiệp - giáo dục thường xuyên và doanh nghiệp
+    tổ chức hoạt động liên kết đào tạo với nước ngoài cấp giấy chứng nhận đăng ký
+    hoạt động liên kết đào tạo với nước ngoài đối với trường trung cấp, trung tâm
+    giáo dục nghề nghiệp, trung tâm giáo dục nghề nghiệp - giáo dục thường xuyên và
+    doanh nghiệp."'
+- source_sentence: NLĐ ký nhiều hợp đồng lao động thì đóng BHYT như thế nào?
+  sentences:
+  - 'Hồ sơ, thủ tục xác định trường hợp được bồi thường
+
+    [...]
+
+    3. Trong thời hạn 05 ngày làm việc, kể từ ngày nhận được đơn và các giấy tờ hợp
+    lệ, nếu xác định yêu cầu thuộc trách nhiệm giải quyết của mình thì Sở Y tế phải
+    thụ lý và thông báo bằng văn bản về việc thụ lý đơn cho người bị thiệt hại hoặc
+    thân nhân của người bị thiệt hại (sau đây gọi tắt là người bị thiệt hại). Trường
+    hợp hồ sơ không đầy đủ thì Sở Y tế có văn bản hướng dẫn người bị thiệt hại bổ
+    sung.
+
+    4. Trong thời hạn 15 ngày, kể từ ngày nhận được đơn yêu cầu của người bị thiệt
+    hại, Sở Y tế phải hoàn thành việc xác định nguyên nhân gây tai biến, mức độ tổn
+    thương và thông báo bằng văn bản cho người yêu cầu đồng thời báo cáo Bộ Y tế.'
+  - 'Chuyển nhượng quyền thăm dò khoáng sản
+
+    1. Tổ chức, cá nhân nhận chuyển nhượng quyền thăm dò khoáng sản phải có đủ điều
+    kiện để được cấp Giấy phép thăm dò khoáng sản theo quy định của Luật này.
+
+    2. Việc chuyển nhượng quyền thăm dò khoáng sản phải được cơ quan quản lý nhà nước
+    có thẩm quyền cấp Giấy phép thăm dò khoáng sản chấp thuận; trường hợp được chấp
+    thuận, tổ chức, cá nhân nhận chuyển nhượng quyền thăm dò khoáng sản được cấp Giấy
+    phép thăm dò khoáng sản mới.
+
+    3. Tổ chức, cá nhân chuyển nhượng quyền thăm dò khoáng sản đã thực hiện được ít
+    nhất 50% dự toán của đề án thăm dò khoáng sản.
+
+    4. Chính phủ quy định chi tiết việc chuyển nhượng quyền thăm dò khoáng sản.'
+  - '"Sửa đổi, bổ sung một số điều của Luật bảo hiểm y tế:
+
+    ...
+
+    6. Sửa đổi, bổ sung Điều 12 như sau:
+
+    “Điều 12. Đối tượng tham gia bảo hiểm y tế
+
+    1. Nhóm do người lao động và người sử dụng lao động đóng, bao gồm:
+
+    a) Người lao động làm việc theo hợp đồng lao động không xác định thời hạn, hợp
+    đồng lao động có thời hạn từ đủ 3 tháng trở lên; người lao động là người quản
+    lý doanh nghiệp hưởng tiền lương; cán bộ, công chức, viên chức (sau đây gọi chung
+    là người lao động);
+
+    b) Người hoạt động không chuyên trách ở xã, phường, thị trấn theo quy định của
+    pháp luật.=
+
+    ...
+
+    4. Nhóm được ngân sách nhà nước hỗ trợ mức đóng, bao gồm:
+
+    a) Người thuộc hộ gia đình cận nghèo;
+
+    b) Học sinh, sinh viên.
+
+    5. Nhóm tham gia bảo hiểm y tế theo hộ gia đình gồm những người thuộc hộ gia đình,
+    trừ đối tượng quy định tại các khoản 1, 2, 3 và 4 Điều này.
+
+    6. Chính phủ quy định các đối tượng khác ngoài các đối tượng quy định tại các
+    khoản 3, 4 và 5 Điều này; quy định việc cấp thẻ bảo hiểm y tế đối với đối tượng
+    do Bộ Quốc phòng, Bộ Công an quản lý và đối tượng quy định tại điểm 1 khoản 3
+    Điều này; quy định lộ trình thực hiện bảo hiểm y tế, phạm vi quyền lợi, mức hưởng
+    bảo hiểm y tế, khám bệnh, chữa bệnh bảo hiểm y tế, quản lý, sử dụng phần kinh
+    phí dành cho khám bệnh, chữa bệnh bảo hiểm y tế, giám định bảo hiểm y tế, thanh
+    toán, quyết toán bảo hiểm y tế đối với các đối tượng quy định tại điểm a khoản
+    3 Điều này.”'
+---
+
+# SentenceTransformer based on VoVanPhuc/sup-SimCSE-VietNamese-phobert-base
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [VoVanPhuc/sup-SimCSE-VietNamese-phobert-base](https://huggingface.co/VoVanPhuc/sup-SimCSE-VietNamese-phobert-base) on the csv dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [VoVanPhuc/sup-SimCSE-VietNamese-phobert-base](https://huggingface.co/VoVanPhuc/sup-SimCSE-VietNamese-phobert-base) <!-- at revision 608779b86741a8acd8c8d38132974ff04086b138 -->
+- **Maximum Sequence Length:** 256 tokens
+- **Output Dimensionality:** 768 tokens
+- **Similarity Function:** Cosine Similarity
+- **Training Dataset:**
+    - csv
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: RobertaModel 
+  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("Cloyne/SimCSE-finetuned-vietnamese-legal-documents")
+# Run inference
+sentences = [
+    'NLĐ ký nhiều hợp đồng lao động thì đóng BHYT như thế nào?',
+    '"Sửa đổi, bổ sung một số điều của Luật bảo hiểm y tế:\n...\n6. Sửa đổi, bổ sung Điều 12 như sau:\n“Điều 12. Đối tượng tham gia bảo hiểm y tế\n1. Nhóm do người lao động và người sử dụng lao động đóng, bao gồm:\na) Người lao động làm việc theo hợp đồng lao động không xác định thời hạn, hợp đồng lao động có thời hạn từ đủ 3 tháng trở lên; người lao động là người quản lý doanh nghiệp hưởng tiền lương; cán bộ, công chức, viên chức (sau đây gọi chung là người lao động);\nb) Người hoạt động không chuyên trách ở xã, phường, thị trấn theo quy định của pháp luật.=\n...\n4. Nhóm được ngân sách nhà nước hỗ trợ mức đóng, bao gồm:\na) Người thuộc hộ gia đình cận nghèo;\nb) Học sinh, sinh viên.\n5. Nhóm tham gia bảo hiểm y tế theo hộ gia đình gồm những người thuộc hộ gia đình, trừ đối tượng quy định tại các khoản 1, 2, 3 và 4 Điều này.\n6. Chính phủ quy định các đối tượng khác ngoài các đối tượng quy định tại các khoản 3, 4 và 5 Điều này; quy định việc cấp thẻ bảo hiểm y tế đối với đối tượng do Bộ Quốc phòng, Bộ Công an quản lý và đối tượng quy định tại điểm 1 khoản 3 Điều này; quy định lộ trình thực hiện bảo hiểm y tế, phạm vi quyền lợi, mức hưởng bảo hiểm y tế, khám bệnh, chữa bệnh bảo hiểm y tế, quản lý, sử dụng phần kinh phí dành cho khám bệnh, chữa bệnh bảo hiểm y tế, giám định bảo hiểm y tế, thanh toán, quyết toán bảo hiểm y tế đối với các đối tượng quy định tại điểm a khoản 3 Điều này.”',
+    'Hồ sơ, thủ tục xác định trường hợp được bồi thường\n[...]\n3. Trong thời hạn 05 ngày làm việc, kể từ ngày nhận được đơn và các giấy tờ hợp lệ, nếu xác định yêu cầu thuộc trách nhiệm giải quyết của mình thì Sở Y tế phải thụ lý và thông báo bằng văn bản về việc thụ lý đơn cho người bị thiệt hại hoặc thân nhân của người bị thiệt hại (sau đây gọi tắt là người bị thiệt hại). Trường hợp hồ sơ không đầy đủ thì Sở Y tế có văn bản hướng dẫn người bị thiệt hại bổ sung.\n4. Trong thời hạn 15 ngày, kể từ ngày nhận được đơn yêu cầu của người bị thiệt hại, Sở Y tế phải hoàn thành việc xác định nguyên nhân gây tai biến, mức độ tổn thương và thông báo bằng văn bản cho người yêu cầu đồng thời báo cáo Bộ Y tế.',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### csv
+
+* Dataset: csv
+* Size: 120,210 training samples
+* Columns: <code>anchor</code> and <code>positive</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | anchor                                                                            | positive                                                                             |
+  |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                               |
+  | details | <ul><li>min: 8 tokens</li><li>mean: 25.08 tokens</li><li>max: 49 tokens</li></ul> | <ul><li>min: 21 tokens</li><li>mean: 206.98 tokens</li><li>max: 256 tokens</li></ul> |
+* Samples:
+  | anchor                                                                                                                                                  | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          |
+  |:--------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>Nội dung lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật được quy định thế nào?</code>                                  | <code>Nội dung lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật<br>Trong phạm vi điều chỉnh của văn bản quy phạm pháp luật:<br>1. Xác định nội dung liên quan đến vấn đề bình đẳng giới hoặc vấn đề bất bình đẳng giới, phân biệt đối xử về giới.<br>2. Quy định các biện pháp cần thiết để thực hiện bình đẳng giới hoặc để giải quyết vấn đề bất bình đẳng giới, phân biệt đối xử về giới; dự báo tác động của các quy định đó đối với nam và nữ sau khi được ban hành.<br>3. Xác định nguồn nhân lực, tài chính cần thiết để triển khai các biện pháp thực hiện bình đẳng giới hoặc để giải quyết vấn đề bất bình đẳng giới, phân biệt đối xử về giới.</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         |
+  | <code>Điều kiện để giáo viên trong cơ sở giáo dục mầm non, tiểu học ngoài công lập bị ảnh hưởng bởi Covid-19 được hưởng chính sách hỗ trợ là gì?</code> | <code>Điều kiện được hưởng<br>Cán bộ quản lý, giáo viên, nhân viên được hưởng chính sách khi bảo đảm các điều kiện sau:<br>1. Là người đang làm việc tại cơ sở giáo dục ngoài công lập trước khi cơ sở phải tạm dừng hoạt động theo yêu cầu của cơ quan nhà nước có thẩm quyền để phòng, chống dịch COVID-19 tính từ ngày 01 tháng 5 năm 2021 đến hết ngày 31 tháng 12 năm 2021.<br>2. Nghỉ việc không hưởng lương từ 01 tháng trở lên tính từ ngày 01 tháng 5 năm 2021 đến hết ngày 31 tháng 12 năm 2021.<br>3. Chưa được hưởng chính sách hỗ trợ đối với người lao động tạm hoãn hợp đồng lao động, nghỉ việc không hưởng lương theo quy định tại khoản 4, khoản 5, khoản 6 Mục II Nghị quyết số 68/NQ-CP ngày 01 tháng 7 năm 2021 của Chính phủ về một số chính sách hỗ trợ người lao động và người sử dụng lao động gặp khó khăn do đại dịch COVID-19, Nghị quyết số 126/NQ-CP ngày 08 tháng 10 năm 2021 của Chính phủ sửa đổi, bổ sung Nghị quyết số 68/NQ-CP ngày 01 tháng 7 năm 2021 của Chính phủ về một số chính sách hỗ trợ người lao động và người sử dụng lao động gặp khó khăn do đại dịch COVID-19 (sau đây gọi tắt là Nghị quyết số 68/NQ-CP) do không tham gia Bảo hiểm xã hội bắt buộc.<br>4. Có xác nhận làm việc tại cơ sở giáo dục ngoài công lập ít nhất hết năm học 2021 - 2022 theo kế hoạch năm học của địa phương, bao gồm cơ sở giáo dục ngoài công lập đã làm việc trước đây hoặc cơ sở giáo dục ngoài công lập khác trong trường hợp cơ sở giáo dục ngoài công lập trước đây làm việc không hoạt động trở lại.</code> |
+  | <code>Nguyên tắc áp dụng phụ cấp ưu đãi nghề y tế thế nào?</code>                                                                                       | <code>Nguyên tắc áp dụng<br>1. Trường hợp công chức, viên chức chuyên môn y tế thuộc đối tượng được hưởng các mức phụ cấp ưu đãi theo nghề khác nhau th�� được hưởng một mức phụ cấp ưu đãi theo nghề cao nhất.<br>2. Công chức, viên chức đã hưởng phụ cấp ưu đãi theo nghề quy định tại Thông tư liên tịch số 06/2010/TTLT-BYT-BNV-BTC ngày 22/3/2010 của Bộ Y tế, Bộ Nội vụ, Bộ Tài chính hướng dẫn thực hiện Nghị định số 64/2009/NĐ-CP ngày 30/7/2009 của Chính phủ về chính sách đối với cán bộ, viên chức y tế công tác ở vùng có điều kiện kinh tế - xã hội đặc biệt khó khăn thì không hưởng phụ cấp ưu đãi theo nghề quy định tại Thông tư liên tịch này.</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         |
+* Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim"
+  }
+  ```
+
+### Evaluation Dataset
+
+#### train
+
+* Dataset: train
+* Size: 13,357 evaluation samples
+* Columns: <code>anchor</code> and <code>positive</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | anchor                                                                            | positive                                                                             |
+  |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                               |
+  | details | <ul><li>min: 7 tokens</li><li>mean: 24.61 tokens</li><li>max: 51 tokens</li></ul> | <ul><li>min: 17 tokens</li><li>mean: 202.71 tokens</li><li>max: 256 tokens</li></ul> |
+* Samples:
+  | anchor                                                                                                                                     | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            |
+  |:-------------------------------------------------------------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>Toà án cấp nào có thẩm quyền giải quyết việc đòi tài sản đã cho người khác vay theo hợp đồng cho vay?</code>                         | <code>"Điều 35. Thẩm quyền của Tòa án nhân dân cấp huyện<br>1. Tòa án nhân dân cấp huyện có thẩm quyền giải quyết theo thủ tục sơ thẩm những tranh chấp sau đây:<br>a) Tranh chấp về dân sự, hôn nhân và gia đình quy định tại Điều 26 và Điều 28 của Bộ luật này, trừ tranh chấp quy định tại khoản 7 Điều 26 của Bộ luật này;<br>b) Tranh chấp về kinh doanh, thương mại quy định tại khoản 1 Điều 30 của Bộ luật này;<br>c) Tranh chấp về lao động quy định tại Điều 32 của Bộ luật này.<br>2. Tòa án nhân dân cấp huyện có thẩm quyền giải quyết những yêu cầu sau đây:<br>a) Yêu cầu về dân sự quy định tại các khoản 1, 2, 3, 4, 6, 7, 8, 9 và 10 Điều 27 của Bộ luật này;<br>b) Yêu cầu về hôn nhân và gia đình quy định tại các khoản 1, 2, 3, 4, 5, 6, 7, 8, 10 và 11 Điều 29 của Bộ luật này;<br>c) Yêu cầu về kinh doanh, thương mại quy định tại khoản 1 và khoản 6 Điều 31 của Bộ luật này;<br>d) Yêu cầu về lao động quy định tại khoản 1 và khoản 5 Điều 33 của Bộ luật này.<br>3. Những tranh chấp, yêu cầu quy định tại khoản 1 và khoản 2 Điều này mà có đương sự hoặc tài sản ở nước ngoài hoặc cần phải ủy thác tư pháp cho cơ quan đại diện nước Cộng hòa xã hội chủ nghĩa Việt Nam ở nước ngoài, cho Tòa án, cơ quan có thẩm quyền của nước ngoài không thuộc thẩm quyền giải quyết của Tòa án nhân dân cấp huyện, trừ trường hợp quy định tại khoản 4 Điều này.<br>4. Tòa án nhân dân cấp huyện nơi cư trú của công dân Việt Nam hủy việc kết hôn trái pháp luật, giải quyết việc ly hôn, các tranh chấp về quyền và nghĩa vụ của vợ chồng, cha mẹ và con, về nhận cha, mẹ, con, nuôi con nuôi và giám hộ giữa công dân Việt Nam cư trú ở khu vực biên giới với công dân của nước láng giềng cùng cư trú ở khu vực biên giới với Việt Nam theo quy định của Bộ luật này và các quy định khác của pháp luật Việt Nam."</code> |
+  | <code>Những phiếu bầu nào được xem là không hợp lệ?</code>                                                                                 | <code>Phiếu bầu không hợp lệ<br>1. Những phiếu bầu sau đây là phiếu bầu không hợp lệ:<br>a) Phiếu không theo mẫu quy định do Tổ bầu cử phát ra;<br>b) Phiếu không có dấu của Tổ bầu cử;<br>c) Phiếu để số người được bầu nhiều hơn số lượng đại biểu được bầu đã ấn định cho đơn vị bầu cử;<br>d) Phiếu gạch xóa hết tên những người ứng cử;<br>đ) Phiếu ghi thêm tên người ngoài danh sách những người ứng cử hoặc phiếu có ghi thêm nội dung khác.<br>2. Trường hợp có phiếu bầu được cho là không hợp lệ thì Tổ trường Tổ bầu cử đưa ra để toàn Tổ xem xét, quyết định. Tổ bầu cử không được gạch xóa hoặc sửa các tên ghi trên phiếu bầu.</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                |
+  | <code>Đề nghị tạm đình chỉ chấp hành quyết định áp dụng biện pháp đưa vào trường giáo dưỡng cho học sinh cần đảm bảo nguyên tắc gì?</code> | <code>Nguyên tắc xét duyệt, đề nghị giảm thời hạn, tạm đình chỉ chấp hành quyết định, miễn chấp hành phần thời gian còn lại cho học sinh trường giáo dưỡng, trại viên cơ sở giáo dục bắt buộc<br>1. Tuân thủ quy định của pháp luật về thi hành biện pháp xử lý hành chính đưa vào trường giáo dưỡng, cơ sở giáo dục bắt buộc, quy định tại Thông tư này và quy định của pháp luật có liên quan.<br>2. Bảo đảm khách quan, công khai, minh bạch, đúng trình tự, thủ tục, thẩm quyền; tôn trọng và bảo vệ quyền, lợi ích hợp pháp của học sinh trường giáo dưỡng, trại viên cơ sở giáo dục bắt buộc.</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          |
+* Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim"
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: steps
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 32
+- `num_train_epochs`: 4
+- `warmup_ratio`: 0.1
+- `fp16`: True
+- `batch_sampler`: no_duplicates
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: steps
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 32
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 1
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 5e-05
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1.0
+- `num_train_epochs`: 4
+- `max_steps`: -1
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.1
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: False
+- `fp16`: True
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: False
+- `hub_always_push`: False
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `dispatch_batches`: None
+- `split_batches`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `eval_use_gather_object`: False
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: proportional
+
+</details>
+
+### Training Logs
+| Epoch  | Step  | Training Loss | train loss |
+|:------:|:-----:|:-------------:|:----------:|
+| 0.0665 | 500   | 0.2809        | 0.2215     |
+| 0.1331 | 1000  | 0.1307        | 0.1547     |
+| 0.1996 | 1500  | 0.0978        | 0.1366     |
+| 0.2662 | 2000  | 0.1054        | 0.1221     |
+| 0.3327 | 2500  | 0.0824        | 0.1215     |
+| 0.3993 | 3000  | 0.0776        | 0.1223     |
+| 0.4658 | 3500  | 0.0797        | 0.1161     |
+| 0.5323 | 4000  | 0.0774        | 0.1070     |
+| 0.5989 | 4500  | 0.0661        | 0.1007     |
+| 0.6654 | 5000  | 0.059         | 0.0945     |
+| 0.7320 | 5500  | 0.0674        | 0.0889     |
+| 0.7985 | 6000  | 0.0495        | 0.0783     |
+| 0.8651 | 6500  | 0.0587        | 0.0822     |
+| 0.9316 | 7000  | 0.0585        | 0.0868     |
+| 0.9981 | 7500  | 0.0482        | 0.0733     |
+| 1.0647 | 8000  | 0.0459        | 0.0786     |
+| 1.1312 | 8500  | 0.0487        | 0.0691     |
+| 1.1978 | 9000  | 0.0335        | 0.0719     |
+| 1.2643 | 9500  | 0.0365        | 0.0711     |
+| 1.3308 | 10000 | 0.0279        | 0.0668     |
+| 1.3974 | 10500 | 0.0235        | 0.0675     |
+| 1.4639 | 11000 | 0.0206        | 0.0599     |
+| 1.5305 | 11500 | 0.0175        | 0.0653     |
+| 1.5970 | 12000 | 0.0144        | 0.0664     |
+| 1.6636 | 12500 | 0.0167        | 0.0598     |
+| 1.7301 | 13000 | 0.0173        | 0.0583     |
+| 1.7966 | 13500 | 0.0127        | 0.0540     |
+| 1.8632 | 14000 | 0.0164        | 0.0595     |
+| 1.9297 | 14500 | 0.014         | 0.0552     |
+| 1.9963 | 15000 | 0.0114        | 0.0535     |
+| 2.0628 | 15500 | 0.0097        | 0.0552     |
+| 2.1294 | 16000 | 0.0111        | 0.0549     |
+| 2.1959 | 16500 | 0.0076        | 0.0544     |
+| 2.2624 | 17000 | 0.009         | 0.0589     |
+| 2.3290 | 17500 | 0.0084        | 0.0543     |
+| 2.3955 | 18000 | 0.0049        | 0.0520     |
+| 2.4621 | 18500 | 0.0068        | 0.0505     |
+| 2.5286 | 19000 | 0.0037        | 0.0489     |
+| 2.5952 | 19500 | 0.0031        | 0.0461     |
+| 2.6617 | 20000 | 0.0041        | 0.0496     |
+| 2.7282 | 20500 | 0.0051        | 0.0464     |
+| 2.7948 | 21000 | 0.0029        | 0.0475     |
+| 2.8613 | 21500 | 0.0032        | 0.0458     |
+| 2.9279 | 22000 | 0.003         | 0.0449     |
+| 2.9944 | 22500 | 0.0035        | 0.0458     |
+| 3.0610 | 23000 | 0.0033        | 0.0443     |
+| 3.1275 | 23500 | 0.0032        | 0.0416     |
+| 3.1940 | 24000 | 0.002         | 0.0449     |
+| 3.2606 | 24500 | 0.0022        | 0.0447     |
+| 3.3271 | 25000 | 0.0017        | 0.0430     |
+| 3.3937 | 25500 | 0.002         | 0.0418     |
+| 3.4602 | 26000 | 0.0019        | 0.0415     |
+| 3.5268 | 26500 | 0.0008        | 0.0406     |
+| 3.5933 | 27000 | 0.0007        | 0.0414     |
+| 3.6598 | 27500 | 0.0008        | 0.0416     |
+| 3.7264 | 28000 | 0.0011        | 0.0418     |
+| 3.7929 | 28500 | 0.0006        | 0.0416     |
+| 3.8595 | 29000 | 0.0005        | 0.0417     |
+| 3.9260 | 29500 | 0.0007        | 0.0413     |
+| 3.9925 | 30000 | 0.0008        | 0.0412     |
+
+
+### Framework Versions
+- Python: 3.10.14
+- Sentence Transformers: 3.2.1
+- Transformers: 4.45.1
+- PyTorch: 2.4.0
+- Accelerate: 0.34.2
+- Datasets: 3.0.1
+- Tokenizers: 0.20.0
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### MultipleNegativesRankingLoss
+```bibtex
+@misc{henderson2017efficient,
+    title={Efficient Natural Language Response Suggestion for Smart Reply},
+    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
+    year={2017},
+    eprint={1705.00652},
+    archivePrefix={arXiv},
+    primaryClass={cs.CL}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

added_tokens.json

@@ -0,0 +1,3 @@
+{
+  "<mask>": 64000
+}

config.json

@@ -0,0 +1,29 @@
+{
+  "_name_or_path": "VoVanPhuc/sup-SimCSE-VietNamese-phobert-base",
+  "architectures": [
+    "RobertaModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "eos_token_id": 2,
+  "gradient_checkpointing": false,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 258,
+  "model_type": "roberta",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "tokenizer_class": "PhobertTokenizer",
+  "torch_dtype": "float32",
+  "transformers_version": "4.45.1",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 64001
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+  "__version__": {
+    "sentence_transformers": "3.2.1",
+    "transformers": "4.45.1",
+    "pytorch": "2.4.0"
+  },
+  "prompts": {},
+  "default_prompt_name": null,
+  "similarity_fn_name": null
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:911b3f90c7abd06d65884617f412b684a5d4548d4487d45726530f208390a120
+size 540015464

modules.json

@@ -0,0 +1,14 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+  "max_seq_length": 256,
+  "do_lower_case": false
+}

special_tokens_map.json

@@ -0,0 +1,9 @@
+{
+  "bos_token": "<s>",
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "mask_token": "<mask>",
+  "pad_token": "<pad>",
+  "sep_token": "</s>",
+  "unk_token": "<unk>"
+}

tokenizer_config.json

@@ -0,0 +1,54 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "<s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "<pad>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "</s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "<unk>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "64000": {
+      "content": "<mask>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": false,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "mask_token": "<mask>",
+  "model_max_length": 256,
+  "pad_token": "<pad>",
+  "sep_token": "</s>",
+  "tokenizer_class": "PhobertTokenizer",
+  "unk_token": "<unk>"
+}