bge-m3-finetuned-2 / README.md
binh230's picture
Add model
26399b9 verified
metadata
tags:
  - sentence-transformers
  - sentence-similarity
  - feature-extraction
  - generated_from_trainer
  - dataset_size:68042
  - loss:MultipleNegativesRankingLoss
widget:
  - source_sentence: >-
      Theo quy định pháp luật, khi một bên trong thỏa thuận tín dụng không thực
      hiện đúng nội dung đã thỏa thuận, hai bên có quyền thỏa thuận về việc xử
      lý như thế nào?
    sentences:
      - >-
        Điều 206. Tai nạn đâm va

        Tai nạn đâm va  tai nạn xảy ra do đâm va giữa tàu biển với tàu biển,
        tàu biển với phương tiện thuỷ nội địa, tàu biển với thuỷ phi  hoặc
        giữa các phương tiện khác trên biển, trong vùng nước cảng biển.
      - >-
        Điều 25. Phạt vi phạm và bồi thường thiệt hại

        1. Tổ chức tín dụng  khách hàng được thỏa thuận về việc phạt vi phạm,
        bồi thường thiệt hại theo quy định của pháp luật đối với trường hợp tổ
        chức tín dụng hoặc khách hàng không thực hiện đúng nội dung trong thỏa
        thuận cho vay, trừ trường hợp quy định tại khoản 4 Điều 13 Thông  này.

        2. Tổ chức tín dụng  khách hàng  thể thỏa thuận về việc bên vi phạm
        nghĩa vụ chỉ phải chịu phạt vi phạm  không phải bồi thường thiệt hại
        hoặc vừa phải chịu phạt vi phạm  vừa phải bồi thường thiệt hại. Trường
        hợp tổ chức tín dụng  khách hàng  thỏa thuận về phạt vi phạm nhưng
        không thỏa thuận về việc vừa phải chịu phạt vi phạm  vừa phải bồi
        thường thiệt hại thì bên vi phạm nghĩa vụ chỉ phải chịu phạt vi phạm.
      - >-
        Điều 16. Hồ sơ vụ tai nạn lao động

        1. Người sử dụng lao động  trách nhiệm lập Hồ  vụ tai nạn lao động.
        Hồ  bao gồm bản chính hoặc bản sao các tài liệu sau đây:

        a) Biên bản khám nghiệm hiện trường (nếu có);

        b)  đồ hiện trường;

        c) Ảnh hiện trường, ảnh nạn nhân;

        d) Biên bản khám nghiệm tử thi hoặc khám nghiệm thương tích, trừ trường
        hợp mất tích theo tuyên bố của Tòa án;

        đ) Biên bản giám định kỹ thuật, giám định pháp y, kết luận giám định 
        pháp (nếu có);

        e) Biên bản lấy lời khai của nạn nhân, người biết sự việc hoặc người 
        liên quan đến vụ tai nạn lao động;

        g) Biên bản Điều tra tai nạn lao động;

        h) Biên bản cuộc họp công bố biên bản Điều tra tai nạn lao động;

        i) Giấy chứng thương của  sở y tế được Điều trị (nếu có);

        k) Giấy ra viện của  sở y tế được Điều trị (nếu có).

        2. Trong một vụ tai nạn lao động, nếu  nhiều người bị tai nạn lao động
        thì mỗi người bị tai nạn lao động được lập một bộ hồ  riêng.

        3. Lưu trữ hồ  tai nạn lao động

        a) Người sử dụng lao động lưu trữ hồ  tai nạn lao động theo quy định
        tại Khoản 8 Điều 18 Nghị định này.

        b)  quan thành lập Đoàn Điều tra tai nạn lao động cấp tỉnh, cấp trung
        ương lưu trữ hồ  vụ tai nạn lao động theo quy định của pháp luật về
        lưu trữ.
  - source_sentence: >-
      Các yếu tố nào cần xem xét khi chia tiền công cứu hộ giữa chủ tàu và người
      thuê tàu?
    sentences:
      - >-
        Điều 148. Chia tiền công cứu hộ trong thuê tàu định hạn

        Trường hợp tàu cho thuê định hạn tham gia cứu hộ trong thời gian cho
        thuê thì tiền công cứu hộ được chia đều giữa chủ tàu  người thuê tàu
        sau khi đã trừ các chi phí liên quan đến hoạt động cứu hộ  tiền thưởng
        công cứu hộ cho thuyền bộ.
      - >-
        Điều 58. Trách nhiệm của chủ tàu đối với thuyền bộ

        1. Bố trí đủ thuyền viên theo định biên của tàu biển  bảo đảm thuyền
        viên phải  đủ điều kiện làm việc trên tàu biển theo quy định tại khoản
        2 Điều 46 của Bộ luật này.

        2. Quy định chức danh, trách nhiệm theo chức danh của thuyền viên, trừ
        các chức danh do Bộ trưởng Bộ Giao thông vận tải quy định.

        3. Bảo đảm điều kiện làm việc, sinh hoạt của thuyền viên trên tàu biển
        theo quy định của pháp luật.

        4. Mua bảo hiểm tai nạn  bảo hiểm bắt buộc khác cho thuyền viên làm
        việc trên tàu biển theo quy định của pháp luật.
      - >-
        Điều 74. Thời điểm phát sinh và chấm dứt trách nhiệm của người vận
        chuyển

        1. Trách nhiệm của người vận chuyển phát sinh từ khi người vận chuyển
        nhận hàng tại cảng nhận hàng, được duy trì trong suốt quá trình vận
        chuyển  chấm dứt khi kết thúc việc trả hàng tại cảng trả hàng.

        2. Việc nhận hàng được tính từ thời điểm người vận chuyển đã nhận hàng
        hoá từ người giao hàng,  quan nhà nước  thẩm quyền hoặc bên thứ ba
        theo quy định của pháp luật hoặc theo quy định tại cảng nhận hàng.

        3. Việc trả hàng kết thúc trong các trường hợp sau đây:

        a) Người vận chuyển hoàn thành việc trả hàng cho người nhận hàng; trong
        trường hợp người nhận hàng không trực tiếp nhận hàng từ người vận chuyển
        thì bằng cách trả hàng theo yêu cầu của người nhận hàng phù hợp với hợp
        đồng, pháp luật hoặc tập quán thương mại áp dụng tại cảng trả hàng;

        b) Người vận chuyển hoàn thành việc trả hàng cho  quan nhà nước 
        thẩm quyền hoặc cho bên thứ ba theo quy định của pháp luật hoặc quy định
        tại cảng trả hàng.

        4. Các bên tham gia hợp đồng vận chuyển chỉ  quyền thoả thuận về việc
        giảm trách nhiệm của người vận chuyển trong các trường hợp sau đây:

        a) Khoảng thời gian từ khi nhận hàng đến trước khi bốc hàng lên tàu biển
         khoảng thời gian từ khi kết thúc dỡ hàng đến khi trả xong hàng;

        b) Vận chuyển động vật sống;

        c) Vận chuyển hàng hoá trên boong.
  - source_sentence: >-
      Ủy ban nhân dân cấp xã có trách nhiệm gì đối với việc vận hành và bảo trì
      đài truyền thanh sử dụng công nghệ hiện đại?
    sentences:
      - >-
        Điều 16. Trách nhiệm Ủy ban nhân dân cấp xã

        1. Xây dựng, quản  trực tiếp, khai thác, vận hành hoạt động của đài
        truyền thanh cấp  ứng dụng công nghệ thông tin - viễn thông theo quy
        định tại Thông  này  theo hướng dẫn của  quan quản  nhà nước cấp
        trên.

        2. Đảm bảo các điều kiện về  sở vật chất, trang thiết bị kỹ thuật của
        đài truyền thanh cấp  ứng dụng công nghệ thông tin - viễn thông đáp
        ứng các quy định tại Thông  này.

        3. Thực hiện chế độ báo cáo định kỳ hoặc đột xuất về hoạt động của đài
        truyền thanh cấp  ứng dụng công nghệ thông tin - viễn thông theo yêu
        cầu của  quan quản  nhà nước cấp trên.
      - >-
        Điều 8. Những nhu cầu vốn không được cho vay

        Tổ chức tín dụng không được cho vay đối với các nhu cầu vốn:

        1. Để thực hiện các hoạt động đầu  kinh doanh thuộc ngành, nghề 
        pháp luật cấm đầu  kinh doanh.

        2. Để thanh toán các chi phí, đáp ứng các nhu cầu tài chính của các giao
        dịch, hành vi  pháp luật cấm.

        3. Để mua, sử dụng các hàng hóa, dịch vụ thuộc ngành, nghề  pháp luật
        cấm đầu  kinh doanh.

        4. Để mua vàng miếng.

        5. Để trả nợ khoản nợ vay tại chính tổ chức tín dụng cho vay trừ trường
        hợp cho vay để thanh toán lãi tiền vay phát sinh trong quá trình thi
        công xây dựng công trình,  chi phí lãi tiền vay được tính trong dự
        toán xây dựng công trình được cấp  thẩm quyền phê duyệt theo quy định
        của pháp luật.

        6. Để trả nợ khoản nợ vay tại tổ chức tín dụng khác  trả nợ khoản vay
        nước ngoài, trừ trường hợp cho vay để trả nợ trước hạn khoản vay đáp ứng
        đầy đủ các điều kiện sau đây:

        a)  khoản vay phục vụ hoạt động kinh doanh;

        b) Thời hạn cho vay không vượt quá thời hạn cho vay còn lại của khoản
        vay cũ;

        c)  khoản vay chưa thực hiện  cấu lại thời hạn trả nợ.
      - >-
        Điều 17. Hỗ trợ thẩm định, cấp phép kinh doanh lần đầu

        1. Doanh nghiệp nhỏ  vừa chuyển đổi từ hộ kinh doanh được miễn phí
        thẩm định, lệ phí cấp phép kinh doanh lần đầu đối với ngành nghề kinh
        doanh  điều kiện.

        2. Doanh nghiệp nhỏ  vừa chuyển đổi từ hộ kinh doanh tiếp tục hoạt
        động sản xuất kinh doanh ngành, nghề kinh doanh  điều kiện  không
        thay đổi về quy  thì cần  đơn gửi  quan quản  nhà nước  thẩm
        quyền để được cấp lại giấy phép.  quan quản  nhà nước  thẩm quyền
         trách nhiệm cấp lại giấy phép trong thời hạn 03 ngày làm việc kể từ
        khi nhận được đơn.

        Trường hợp doanh nghiệp nhỏ  vừa chuyển đổi từ hộ kinh doanh vẫn sản
        xuất kinh doanh ngành nghề kinh doanh,  điều kiện  thay đổi về quy
         thì  quan quản  nhà nước  thẩm quyền  trách nhiệm  vấn,
        hướng dẫn miễn phí về quy trình, thủ tục việc cấp phép lần đầu.
  - source_sentence: >-
      Khoảng cách tối thiểu giữa các điểm đo trên sông ở khu vực miền Bắc và
      miền Nam Việt Nam là bao nhiêu?
    sentences:
      - >-
        Điều 3. Nguyên tắc, mục tiêu hoạt động của Quỹ

        1. Nguyên tắc hoạt động

        a) Quỹ hoạt động theo nguyên tắc tự chủ về tài chính, bảo đảm an toàn
        vốn;

        b) Quỹ chịu trách nhiệm hữu hạn trong phạm vi vốn chủ sở hữu của mình;

        c) Quỹ hỗ trợ đúng đối tượng  đủ điều kiện theo quy định tại Nghị định
        này.

        2. Mục tiêu hoạt động

        a) Nâng cao khả năng cạnh tranh của doanh nghiệp nhỏ  vừa, góp phần
        làm tăng thu nhập, tạo việc làm cho người lao động;

        b) Tạo nguồn vốn hỗ trợ, phát triển doanh nghiệp nhỏ  vừa;

        c) Nâng cao hiệu quả quản  vốn nhà nước hỗ trợ doanh nghiệp nhỏ 
        vừa.
      - >-
        Điều 12. An toàn thông tin trong kết nối chia sẻ dữ liệu

        Hệ thống thông tin nguồn trung ương  hệ thống thông tin nguồn cấp tỉnh
        khi kết nối, chia sẻ dữ liệu với nhau hoặc kết nối, chia sẻ dữ liệu với
        các thành phần khác phải  biện pháp đảm bảo an toàn dữ liệu đáp ứng
        các yêu cầu an toàn thông tin quy định tại Thông  số 03/2017/TT-BTTTT 
        ngày 24/4/2017 của Bộ trưởng Bộ Thông tin  Truyền thông quy định chi
        tiết  hướng dẫn một số điều của Nghị định số 85/2016/NĐ-CP  ngày
        01/7/2016 của Chính phủ về bảo đảm an toàn hệ thống thông tin theo cấp
        độ  Tiêu chuẩn quốc gia TCVN 11930:2017   về công nghệ thông tin - các
        kỹ thuật an toàn - yêu cầu  bản về an toàn hệ thống thông tin theo cấp
        độ.
      - "Điều 13. Nguyên tắc xác định điểm đo trong điều tra khảo sát\n1. Trên đoạn sông điều tra khảo sát, bố trí tối thiểu 3 điểm đo phân bố từ cửa sông lên thượng lưu, đảm bảo khoảng cách giữa các điểm đo như sau:\na) Đối với sông ở khu vực miền Bắc, khoảng cách giữa các điểm đo từ 5 ÷ 7 km;\nb) Đối với sông ở khu vực miền Trung, khoảng cách giữa các điểm đo từ 3 \_÷ 5km;\nc) Đối với sông ở khu vực miền Nam, khoảng cách giữa các điểm đo từ 10 ÷ 15km.\n2. Các điểm đo được bố trí bảo đảm xác định được giá trị ranh giới xâm nhập mặn (giá trị ranh giới xâm nhập mặn tùy theo yêu cầu điều tra khảo sát thường được xác định là 1‰ hoặc 4‰).\n3. Các điểm đo trên đoạn sông điều tra khảo sát đảm bảo các yêu cầu sau:\na) Dòng chảy bị ảnh hưởng triều rõ rệt;\nb) Không có hiện tượng nước tù, chảy quẩn;\nc) Không có dòng nhập lưu;\nd) Ít bị ảnh hưởng bởi tác động của con người."
  - source_sentence: >-
      Người thực hiện việc uỷ thác toàn bộ hoặc một phần việc vận chuyển hàng
      hoá bằng đường biển được gọi là ai?
    sentences:
      - >-
        Điều 72. Các bên liên quan đến hợp đồng vận chuyển hàng hoá bằng đường
        biển

        1. Người thuê vận chuyển  người tự mình hoặc uỷ quyền cho người khác
        giao kết hợp đồng vận chuyển hàng hoá bằng đường biển với người vận
        chuyển. Trong trường hợp hợp đồng vận chuyển theo chứng từ vận chuyển,
        người thuê vận chuyển được gọi  người gửi hàng.

        2. Người vận chuyển  người tự mình hoặc uỷ quyền cho người khác giao
        kết hợp đồng vận chuyển hàng hoá bằng đường biển với người thuê vận
        chuyển.

        3. Người vận chuyển thực tế  người được người vận chuyển uỷ thác thực
        hiện toàn bộ hoặc một phần việc vận chuyển hàng hoá bằng đường biển.

        4. Người giao hàng  người tự mình hoặc được người khác uỷ thác giao
        hàng cho người vận chuyển theo hợp đồng vận chuyển hàng hoá bằng đường
        biển.

        5. Người nhận hàng  người  quyền nhận hàng theo quy định tại Điều 89
         Điều 110 của Bộ luật này.
      - >-
        Điều 49. Địa vị pháp lý của thuyền trưởng

        1. Thuyền trưởng  người  quyền chỉ huy cao nhất  trên tàu biển, chỉ
        huy tàu theo chế độ thủ trưởng. Mọi người  mặt trên tàu biển phải chấp
        hành mệnh lệnh của thuyền trưởng.

        2. Thuyền trưởng chịu sự chỉ đạo của chủ tàu hoặc người thuê tàu, người
        khai thác tàu.
      - >-
        Điều 6. Tiêu chuẩn 2: Bản mô tả, cấu trúc, nội dung chương trình đào tạo

        1. Bản  tả chương trình đào tạo đầy đủ thông tin, cập nhật, xác định
         hình thức đào tạo từ xa, được công bố công khai  dễ dàng tiếp cận.

        2. Đề cương chi tiết các môn học hoặc học phần đầy đủ thông tin, cập
        nhật, được công bố công khai  các bên liên quan dễ dàng tiếp cận.

        3. Nội dung chương trình đào tạo được thiết kế dựa trên chuẩn đầu ra 
        chương trình đào tạo chính quy, cập nhật,  cấu trúc linh loạt, trình
        tự logic  gắn kết giữa các môn học hoặc học phần trong việc đạt được
        chuẩn đầu ra.
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
  - cosine_accuracy@1
  - cosine_accuracy@3
  - cosine_accuracy@5
  - cosine_accuracy@10
  - cosine_precision@1
  - cosine_precision@3
  - cosine_precision@5
  - cosine_precision@10
  - cosine_recall@1
  - cosine_recall@3
  - cosine_recall@5
  - cosine_recall@10
  - cosine_ndcg@10
  - cosine_mrr@10
  - cosine_map@100
model-index:
  - name: SentenceTransformer
    results:
      - task:
          type: information-retrieval
          name: Information Retrieval
        dataset:
          name: Unknown
          type: unknown
        metrics:
          - type: cosine_accuracy@1
            value: 0.2468227424749164
            name: Cosine Accuracy@1
          - type: cosine_accuracy@3
            value: 0.7418060200668897
            name: Cosine Accuracy@3
          - type: cosine_accuracy@5
            value: 0.8260869565217391
            name: Cosine Accuracy@5
          - type: cosine_accuracy@10
            value: 0.919732441471572
            name: Cosine Accuracy@10
          - type: cosine_precision@1
            value: 0.2468227424749164
            name: Cosine Precision@1
          - type: cosine_precision@3
            value: 0.24726867335562985
            name: Cosine Precision@3
          - type: cosine_precision@5
            value: 0.1652173913043478
            name: Cosine Precision@5
          - type: cosine_precision@10
            value: 0.09197324414715718
            name: Cosine Precision@10
          - type: cosine_recall@1
            value: 0.2468227424749164
            name: Cosine Recall@1
          - type: cosine_recall@3
            value: 0.7418060200668897
            name: Cosine Recall@3
          - type: cosine_recall@5
            value: 0.8260869565217391
            name: Cosine Recall@5
          - type: cosine_recall@10
            value: 0.919732441471572
            name: Cosine Recall@10
          - type: cosine_ndcg@10
            value: 0.5916811345338074
            name: Cosine Ndcg@10
          - type: cosine_mrr@10
            value: 0.4847204968944114
            name: Cosine Mrr@10
          - type: cosine_map@100
            value: 0.48932363827559977
            name: Cosine Map@100

SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Maximum Sequence Length: 8192 tokens
  • Output Dimensionality: 1024 dimensions
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("binh230/bge-m3-finetuned-2")
# Run inference
sentences = [
    'Người thực hiện việc uỷ thác toàn bộ hoặc một phần việc vận chuyển hàng hoá bằng đường biển được gọi là ai?',
    'Điều 72. Các bên liên quan đến hợp đồng vận chuyển hàng hoá bằng đường biển\n1. Người thuê vận chuyển là người tự mình hoặc uỷ quyền cho người khác giao kết hợp đồng vận chuyển hàng hoá bằng đường biển với người vận chuyển. Trong trường hợp hợp đồng vận chuyển theo chứng từ vận chuyển, người thuê vận chuyển được gọi là người gửi hàng.\n2. Người vận chuyển là người tự mình hoặc uỷ quyền cho người khác giao kết hợp đồng vận chuyển hàng hoá bằng đường biển với người thuê vận chuyển.\n3. Người vận chuyển thực tế là người được người vận chuyển uỷ thác thực hiện toàn bộ hoặc một phần việc vận chuyển hàng hoá bằng đường biển.\n4. Người giao hàng là người tự mình hoặc được người khác uỷ thác giao hàng cho người vận chuyển theo hợp đồng vận chuyển hàng hoá bằng đường biển.\n5. Người nhận hàng là người có quyền nhận hàng theo quy định tại Điều 89 và Điều 110 của Bộ luật này.',
    'Điều 49. Địa vị pháp lý của thuyền trưởng\n1. Thuyền trưởng là người có quyền chỉ huy cao nhất ở trên tàu biển, chỉ huy tàu theo chế độ thủ trưởng. Mọi người có mặt trên tàu biển phải chấp hành mệnh lệnh của thuyền trưởng.\n2. Thuyền trưởng chịu sự chỉ đạo của chủ tàu hoặc người thuê tàu, người khai thác tàu.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Metric Value
cosine_accuracy@1 0.2468
cosine_accuracy@3 0.7418
cosine_accuracy@5 0.8261
cosine_accuracy@10 0.9197
cosine_precision@1 0.2468
cosine_precision@3 0.2473
cosine_precision@5 0.1652
cosine_precision@10 0.092
cosine_recall@1 0.2468
cosine_recall@3 0.7418
cosine_recall@5 0.8261
cosine_recall@10 0.9197
cosine_ndcg@10 0.5917
cosine_mrr@10 0.4847
cosine_map@100 0.4893

Training Details

Training Dataset

Unnamed Dataset

  • Size: 68,042 training samples
  • Columns: sentence_0 and sentence_1
  • Approximate statistics based on the first 1000 samples:
    sentence_0 sentence_1
    type string string
    details
    • min: 10 tokens
    • mean: 26.53 tokens
    • max: 142 tokens
    • min: 23 tokens
    • mean: 225.01 tokens
    • max: 634 tokens
  • Samples:
    sentence_0 sentence_1
    Tổ chức phát hành có trách nhiệm gì khi quản lý tài khoản vốn phát hành chứng khoán bằng ngoại tệ? Điều 8. Trách nhiệm của tổ chức phát hành
    1. Thực hiện việc mở, đóng và sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ theo đúng quy định tại Thông tư này và các văn bản pháp luật có liên quan.
    2. Kê khai trung thực, đầy đủ nội dung thu, chi trên tài khoản vốn phát hành chứng khoán bằng ngoại tệ; Cung cấp các chứng từ, tài liệu liên quan đến việc mở và sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ theo yêu cầu và hướng dẫn của tổ chức tín dụng được phép.
    Đơn vị nào có quyền yêu cầu cung cấp chứng từ liên quan đến việc sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ và tổ chức phát hành phải tuân thủ như thế nào? Điều 8. Trách nhiệm của tổ chức phát hành
    1. Thực hiện việc mở, đóng và sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ theo đúng quy định tại Thông tư này và các văn bản pháp luật có liên quan.
    2. Kê khai trung thực, đầy đủ nội dung thu, chi trên tài khoản vốn phát hành chứng khoán bằng ngoại tệ; Cung cấp các chứng từ, tài liệu liên quan đến việc mở và sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ theo yêu cầu và hướng dẫn của tổ chức tín dụng được phép.
    Tổ chức tín dụng có trách nhiệm gì khi liên quan đến tài khoản vốn phát hành chứng khoán bằng ngoại tệ? Điều 9. Trách nhiệm của tổ chức tín dụng được phép
    1. Thực hiện việc mở, đóng và sử dụng tài khoản vốn phát hành chứng khoán bằng ngoại tệ phù hợp với quy định tại Thông tư này và các văn bản pháp luật có liên quan.
    2. Kiểm tra, lưu giữ các tài liệu, chứng từ liên quan đến các giao dịch thu, chi được thực hiện trên tài khoản vốn phát hành chứng khoán bằng ngoại tệ của tổ chức phát hành để đảm bảo việc cung ứng dịch vụ ngoại hối được thực hiện đúng mục đích và phù hợp với quy định của pháp luật.
    3. Thực hiện chế độ báo cáo theo quy định tại Điều 10 Thông tư này.
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
        "scale": 20.0,
        "similarity_fct": "cos_sim"
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • eval_strategy: steps
  • per_device_train_batch_size: 10
  • per_device_eval_batch_size: 10
  • num_train_epochs: 1
  • multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: steps
  • prediction_loss_only: True
  • per_device_train_batch_size: 10
  • per_device_eval_batch_size: 10
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 5e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1
  • num_train_epochs: 1
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.0
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: False
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: False
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: None
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • include_for_metrics: []
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • average_tokens_across_devices: False
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: round_robin

Training Logs

Epoch Step Training Loss cosine_ndcg@10
0.0735 500 0.0157 -
0.1470 1000 0.0231 -
0.2204 1500 0.0191 -
0.2939 2000 0.0179 -
0.3674 2500 0.0153 -
0.4409 3000 0.017 -
0.4702 3200 - 0.5705
0.5143 3500 0.0181 -
0.5878 4000 0.0131 -
0.6613 4500 0.0129 -
0.7348 5000 0.012 -
0.8082 5500 0.0117 -
0.8817 6000 0.0096 -
0.9405 6400 - 0.5906
0.9552 6500 0.0111 -
1.0 6805 - 0.5917

Framework Versions

  • Python: 3.10.10
  • Sentence Transformers: 3.3.1
  • Transformers: 4.47.0
  • PyTorch: 2.2.1+cu121
  • Accelerate: 1.2.0
  • Datasets: 3.1.0
  • Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}