Add new SentenceTransformer model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer.json filter=lfs diff=lfs merge=lfs -text

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+  "word_embedding_dimension": 1024,
+  "pooling_mode_cls_token": true,
+  "pooling_mode_mean_tokens": false,
+  "pooling_mode_max_tokens": false,
+  "pooling_mode_mean_sqrt_len_tokens": false,
+  "pooling_mode_weightedmean_tokens": false,
+  "pooling_mode_lasttoken": false,
+  "include_prompt": true
+}

README.md

@@ -0,0 +1,1162 @@
+---
+language:
+- es
+license: apache-2.0
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:5036
+- loss:MatryoshkaLoss
+- loss:MultipleNegativesRankingLoss
+base_model: littlejohn-ai/bge-m3-spa-law-qa
+widget:
+- source_sentence: ¿Qué tipo de obras no dan derecho a practicar la deducción en viviendas?
+  sentences:
+  - 'en el Real Decreto
+
+    2066/2008, de 12 de diciembre, por el que se regula el Plan Estatal de Vivienda
+    y
+
+    Rehabilitación 2009-2012, así como por las obras de instalación de infraestructuras
+
+    de telecomunicación realizadas durante dicho período que permitan el acceso a
+
+    Internet y a servicios de televisión digital en la vivienda del contribuyente.
+
+
+    No darán derecho a practicar esta deducción las obras que se realicen en
+
+
+
+    viviendas afectas a una actividad económica, plazas de garaje, jardines, parques,
+
+    piscinas e instalaciones deportivas y otros elementos análogos.
+
+
+    La base de esta deducción estará constituida por las cantidades satisfechas,
+
+
+
+    mediante tarjeta de crédito o débito, transferencia bancaria, cheque nominativo
+    o
+
+    ingreso en cuentas en entidades de crédito, a las personas o entidades que realicen
+
+    tales obras. En ningún caso, darán derecho a practicar esta deducción las cantidades
+
+    satisfechas mediante entregas de dinero de curso legal.
+
+
+
+    -----
+
+
+    # BOLETÍN OFICIAL DEL ESTADO
+
+
+
+    **Núm. 108** **Viernes 6 de mayo de 2011** **Sec. I.  Pág. 45113**
+
+
+    La base máxima anual de esta deducción será de:
+
+
+
+    a) cuando la base imponible sea igual o inferior a 53.007,20 euros anuales:
+
+
+
+    6.750 euros a'
+  - 's/kilogramo. apartado 3.
+
+    Materias inhibidoras (MI): 725.42 pesetas~k-equitox. 5. EI regimen de autorizaciones
+    para las operaciones
+
+    Sales solubles (SOL): 580.35 pesetas/Sm /centlme- a que hacen referencia los puntos
+    3 y 4 debe ser el
+
+
+    tro. previsto por los artlculos 31 y 32 de la Ley de Presu-
+
+
+    Incremento de temperatura (IT): 0.007681 pese- puestos de 1995.
+
+    tas/metro cubico;oC.
+
+    Zona B. Artlculo 3. _Ordenaci6n de pagos._
+
+    Usos domesticos: 28.60 pesetas/metro cubico y Prd. Se anade al artlculo 48.1 del
+    texto refundido de la
+
+    Usos industriales: 35.91 pesetas/metro cubico y Prd. Ley de Finanzas Publicas
+    de Cataluna. aprobado por el
+
+    Materias en suspensi6n (MES): 36.26 pesetas/kilo- Decreto legislativo 9/1994.
+    de 13 de julio. un nuevo
+
+    gramo. . . parrafo con la siguiente redacci6n:
+
+    Materias oxidables (MO): 72.54 pesetas/kılogramo.
+
+
+    ."La ordenaci6n del pago puede efectuarse
+
+
+    Materias inhibidoras (MI): 725.42 pesetas~k-equitox.
+
+
+    mediante la. firma de una orden individual 0 de
+
+
+    Sales solubles (SOL): 580.35 pesetas/Sm /centfme-
+
+
+    un resumen elaborado por medios informaticos y
+
+
+    tro.
+
+
+    comprensivo de varias 6rdenes.»
+
+
+    Incremento de· temperatura (IT): 0.007681 pese-
+
+    tas/metro cubico;oC.
+
+
+    Disposici6n '
+  - ' de la Repúbl1ca
+
+
+    procedente. A dicho efecto, el Presidente de- la Subcomisión de
+
+
+    Argentina y el Ministerio de Trabajo de España efectuarán,
+
+
+    Salarios está facultado para dirigirse directamente a los ser-
+
+
+    #### de común acuerdO y con tres meses de antlcipac16n, la ~
+
+
+    vicios o Departamentos oficiales, cualquiera que sea su ads-
+
+
+    #### tiva programa.ción anua.l.
+
+
+    cripción administrativa, así como a los Organismos Sindicales,
+
+    recabando los datos e informes precisos y debiendo los Orgar ARTÍCULO nI
+
+
+    nismos requeridos cumplimentarlos en el pla:zo máXimo <le
+
+
+    quince días. Cada pa.ls otorgará al otro hasta cinco becas anuales para.
+
+
+    #### La SubcomisIón de Salarios elaborará cada tres meses un estudios de formación
+    y especialización en Centros relacionados
+
+    informe expres1vo de la evolución de las rentas·· saláriale...c; y con los temas
+    ql1e ~ hubieren selecclonado dé eom1in acuerdo.
+
+
+
+    -----
+
+
+    '
+- source_sentence: ¿Qué se promoverá en cuanto a la participación de mujeres en la
+    economía?
+  sentences:
+  - Artículo 63. Coordinación de los poderes públicos de Andalucía para la igualdad
+    de mujeres y hombres. Se creará la Comisión de coordinación de las políticas autonómicas
+    y locales para la igualdad de género con el objeto de coordinar e impulsar la
+    integración del enfoque de género en las políticas y programas, en materia de
+    igualdad de mujeres y hombres, desarrollados por las distintas Administraciones
+    públicas de la Comunidad Autónoma.
+  - '# BOLETÍN OFICIAL DEL ESTADO
+
+
+
+    **Núm. 212** **Miércoles 4 de septiembre de 2013** **Sec. I.  Pág. 64199**
+
+
+    ### I. DISPOSICIONES GENERALES
+
+
+
+    ## MINISTERIO DE INDUSTRIA, ENERGÍA Y TURISMO
+
+
+    #### 9326 Resolución de 27 de agosto de 2013, de la Secretaría de Estado de Turismo,
+
+    _por la que se publica el Acuerdo de Consejo de Ministros de 26 de julio de_
+
+    _2013, por el que se modifica en lo relativo a previsión de gastos financieros_
+
+    _del ICO y su financiación, el Acuerdo de 29 de mayo de 2009, que modificó la_
+
+    _normativa reguladora de los préstamos previstos en el Plan de Renovación de_
+
+    _Instalaciones Turísticas (Plan Renove Turismo 2009) del Ministerio de_
+
+    _Industria, Turismo y Comercio y amplió su dotación económica._
+
+
+
+    El Consejo de Ministros, en su reunión del 26 de julio de 2013, a propuesta de
+    los
+
+
+
+    Ministros de Industria Energía y Turismo, y de Economía y Competitividad adoptó
+    el
+
+    acuerdo referenciado en el título cuyo texto se inserta a continuación.
+
+
+    La normativa reguladora establecida en este acuerdo debe ser publicada en el
+
+
+
+    «Boletín Oficial del Estado», a tenor de lo establecido en el artículo 52.1 de
+    la Ley 30/1992,
+
+    de 26 de noviembre, de Régimen Jurídico de las Administracion'
+  - 7. La promoción del acceso a los recursos de todo tipo a las mujeres que viven
+    en el medio rural y su participación plena, igualitaria y efectiva en la economía
+    y en la sociedad.
+- source_sentence: ¿Cuándo entró en vigor el presente anexo en España?
+  sentences:
+  - 'y
+
+    distantes entre sí. En cada una de estos lugares irán estibados cuando menos un
+    equipo de bombero y un
+
+    juego de equipo individual.
+
+
+
+    .6 Si la Administración de un Estado de abanderamiento considera que las disposiciones
+    en materia de equipos
+
+    obligatorios a bordo contenidas en la presente regla no son razonables o técnicamente
+    adecuadas, el buque
+
+    podrá ser eximido, con arreglo a lo dispuesto en el artículo 9, apartado 3, de
+    la presente Directiva, de una o
+
+    más de dichas disposiciones.
+
+
+    **12 Cuestiones diversas (R 18)**
+
+
+
+    BUQUES NUEVOS DE CLASES B, C y D y BUQUES EXISTENTES DE CLASE B:
+
+
+    .1 Cuando las divisiones de clase “A” estén perforadas para dar paso a cables
+    eléctricos, tuberías, troncos,
+
+    conductos, etc., o para aceptar esloras, baos u otros elementos estructurales,
+    se tomarán las medidas razonables
+
+    y practicables para que no disminuya la resistencia al fuego.
+
+
+
+    En lo que respecta a los buques construidos el 1 de enero de 2003 o posteriormente
+    cuyas divisiones de clase
+
+    “A” estén perforadas, estas perforaciones se someterán a prueba con arreglo al
+    Código de procedimientos de
+
+    ensayo de exposición al fuego para asegurarse de que no disminuya la resistencia
+    al fuego de las division'
+  - 'rma Internacional para Autorizaciones de Uso Terapéutico _(International_
+
+
+
+    _Standard for Therapeutic Use Exemptions)._
+
+
+
+    -----
+
+
+    # BOLETÍN OFICIAL DEL ESTADO
+
+
+    **Núm. 127** **Sábado 25 de mayo de 2024** **Sec. I.  Pág. 59583**
+
+
+
+    PBD: pasaporte biológico del deportista.
+
+    programa del PBD: programa del pasaporte biológico del deportista.
+
+    sistema ADAMS: sistema de gestión y administración antidopaje (Anti-Doping
+
+    Administration and Management System).
+
+
+    TAD: Tribunal de Arbitraje Deportivo.
+
+    UGPD: unidad de gestión del pasaporte del deportista.
+
+
+
+    *******
+
+
+    El presente anexo entró en vigor, de forma general y para España, el 1 de enero
+
+    de 2023, de conformidad con lo establecido en el párrafo 3 del artículo 34 de
+    la
+
+    Convención Internacional contra el dopaje en el deporte.
+
+
+    Madrid, 17 de mayo de 2024.–La Secretaria General Técnica, Rosa Velázquez
+
+    Álvarez.
+
+
+
+    -----
+
+
+    '
+  - 'para la autorización de su puesta en circula-
+
+
+    General de Politica Arancelaria e Importación. previo informe ción, de acuerdo
+    ''con el Real Decreto 185111978, de 10 de julio,
+
+    de la Dirección'' General de la Energía del Ministerio da Indus- y disposiciones
+    concordantes.· .
+
+    ##### tria y Energia. El contingente establecido por la presente Orden 4. Las
+    Entidades Financieras que emitan participaciones
+
+    no será aplicable a las mercancias acogidas ''a cualquier modall- hipotece.rias
+    deberán comunicar mensualmente a la Dirección
+
+    ##### dad de tráfico de perfeccionamiento activo. _ General del Tesoro y Política
+    Financiera el volumen y caracte-
+
+
+    risticas financieras de las emitidas durante- el mes anterior.
+
+
+    Tercero.-Las expediciones de hulla coquizable que se impor-
+
+
+    ten en el año 1985 con li~ncias expedidas con cargo al contin- Tercero...~l. Las
+    Entidades Financieras que hubieran emi·
+
+    gente. libre de derechos, correspondiente a! año anterior se ad· tldo cédulas
+    .y'' bonqe hipotecarlos con la cobertura de présta-
+
+    mitirAn con libertad de derechos. debh:mdo deducirse por la mos hipotecarios convalidados..
+    deberán reinvertir el· producto
+
+    Dl.rección General de Política Arancelaria e Importación de la'
+- source_sentence: ¿Qué se entiende por discriminación directa según la Ley?
+  sentences:
+  - ':e 0 (ım:ınt;?caire». c10nde
+
+
+    dı ee : «Ayudante de cort:ı.OOr ... 8», debe decır: «.''\j''Udante de
+
+
+    ###### 1\1 1 N 1 S TER 1 0 carta dar ... 9».
+
+
+    En i:ı mism::ı p:igina. Mcdisteria a la medida y en serıe, don-
+
+
+    ## n ! ... [k ] LA GOBERNACION de dice: «Ayudanta ." Sı), debe decir; «~ ... yudanta
+    .. , 9),
+
+
+    En el mismo «Boletin Ofici:ıl del Est~doı). pa~ina 10337, pri-
+
+
+    _RESOLUC!O_\''_ _de_ _la_ _Direcci6n General_ _de_ _sanidad_ por mera columna.
+    Corbateria y paİlOleri;ı d2 fanta.\ia, donde dice:·
+
+    _:a._ _fj!:c_ se _ciicWn_ 11 onnas _sobre_ _reconocimiento_ de _los_ «A~''Udante
+    ''" 8), debe decir: «A)''ud::ınte ... 9». En h misma _co-_
+
+    _("crda,_ _wcri/kacios_ _en_ _domicilios_ _particulares._ lumna. confecci6n de
+    sombreros ee senora, donde dice; «Aru-
+
+
+    dante de Planchado!'' .. , 8», dcbc decir: «Ayud:ı.nte de Plancha·
+
+
+    Proxima la :ech:ı cn quc las Jef:ıtur:ı.s de Sanidad han de dor ... 9». Eıı la
+    misma columna. Ve;os, man,os y mantillas. dorı­
+
+
+    ori:ı:ıizıl" e:-ı öu:; r(:ö~ectivas provinci:ı.s el reconocimiento oa- de dice:
+    «Ayudante ... 8». debe decir: «A)''udantc ... 9».
+
+
+    nit:ı:io de bs :cses porcin:.ıs sacrificada.s en domicilios particu- En el mismo
+    «Boleti!ı Oficial del Estado), p:i~jna '
+  - 'A los efectos de esta ley, se entiende por discriminación directa: Situación
+    en que se encuentra una persona o grupo en que se integra que sea, haya sido o
+    pudiera ser tratada de manera menos favorable que otras en situación análoga o
+    comparable por razón de orientación sexual e identidad sexual, expresión de género
+    o características sexuales.'
+  - '## I. Disposiciones generales
+
+
+    ### TRIBUNAL CONSTITUCIONAL asignaturasÁrt. 3.° Lospor alumnosrazón de queotrosobtenganestudios
+    lanacionalesconvalidacióno extrande­
+
+
+    jeros abonarán el 40 por 100 de las tasas establecidas para
+
+    las asignaturas sueltas. Las demás tasas se satisfarán en la
+
+    cuantía integra, en la medida en que incurren en el hecho
+
+
+    #### 21356 planteadoRECURSOporde inconstitucionalidadel Presidente del Gobiernonúmerocontra646/1984,la
+    imponible.
+
+    _Ley_ _1/1984,_ _de_ _20_ _de_ _febrero,_ _del_ _Parlamento_ _de_ DISPOSICION
+    FINAL
+
+    _Galicia._
+
+
+    Se autoriza a los Ministros de Economía y Hacienda y de
+
+
+    El Tribunal Constitucional, por providencia de 30 de agosto Cultura para dictar
+    las normas necesarias en orden a la apli­
+
+    actual, ha admitido a trámite el recurso de inconstitucionalidad cación del presente
+    Real Decreto.
+
+    número 646/1984, planteado por el Presidente del Gobierno, con­
+
+    tra la Ley 1/1984, de 20 de febrero, del Parlamento de Galicia, Dado en Madrid
+    a 12 de septiembre de 1984.
+
+    del fondo de compensación financiera. Y se hace saber que en
+
+    el mencionado recurso se ha invocado por el Presidente del JUAN CARLOS R.
+
+    Gobierno el artículo 161.2 de la Constitución, que produce de'
+- source_sentence: ¿Cuál es la disposición que se refiere a la hora de cierre de los
+    establecimientos públicos en días laborables según el artículo 1.°?
+  sentences:
+  - "n de las adscripciones o representaciones a que\nse refieren distintos apartados\
+    \ del artículo 11,2 del citado De­\n\n#### Art. 2:° Los sábados y vísperas de\
+    \ días festivos, los espec- creto orgánico del Consejo Nacional de Educación,\
+    \ táculos podrán terminar y los establecimientos públicos podrán Este Ministerio,\
+    \ haciendo uso de las atribuciones que le con­ cerrar media hora más tarde de\
+    \ la que se determina en el fiere la disposición final segunda del citado Decreto\
+    \ orgánico, artículo l.° y de conformidad con el dictamen de la Asesoría Jurídica\
+    \ del\n Departamento, ha tenido a bien disponer lo siguiente:\n Art. 3.° La hora\
+    \ de cierre de los frontones podrá prorrogar­\nse excepcionalmente, en caso de\
+    \ empate de los partidos, hasta Primero.—Lo dispuesto en el artículo 14 del Decreto\
+    \ 2763/1971,\n\nde 21 de octubre, que organizó el Consejo Nacional de Educa­\n\
+    \n#### que sea necesaria, siempre que éstos hubieran comenzado a la hora establecida.\
+    \ ción, respecto de los Consejeros que lo fueran por razón de su\n cargo, debe\
+    \ entenderse no sólo respecto de los Consejeros natos,\n Art. 4.° Los bares interiores\
+    \ de los hoteles podrán retrasar sino también de los Consejeros designados por\
+    \ este Ministerio, su hora"
+  - 'o corrientes** 0330 ........................
+
+
+    **TOTAL ACTIVO (A+B)** 0340 ........................
+
+
+    **PASIVO Y PATRIMONIO NETO**
+
+
+
+    **A) PASIVO CORRIENTE** 0350 ........................
+
+
+    **I. Periodificaciones** 0360 ........................
+
+    **II. Acreedores y cuentas a pagar** 0370 ........................
+
+    **III. Deudas con empresas del grupo y asociadas a corto plazo** 0380 ........................
+
+    **IV. Deudas a corto plazo** 0390 ........................
+
+    **V. Provisiones a corto plazo** 0400 ........................
+
+    **VI. Otros pasivos corrientes** 0410 ........................
+
+
+    **B) PASIVO NO CORRIENTE** 0420 ........................
+
+
+    **I. Periodificaciones** 0430 ........................
+
+    **II. Pasivos por impuesto diferido** 0440 ........................
+
+    **III. Deudas con empresas del grupo y asociadas a largo plazo** 0450 ........................
+
+    **IV. Deudas a largo plazo** 0460 ........................
+
+    **V. Provisiones a largo plazo** 0470 ........................
+
+    **VI. Otros pasivos no corrientes** 0480 ........................
+
+    **TOTAL PASIVO (A+B)** 0490 ........................
+
+
+    **C) PATRIMONIO NETO** 0500 ........................
+
+
+    **C-1) FONDOS REEMBOLSABLES** 0510 ....'
+  - 'plan los requisitos previstos en el apartado 4 del
+
+    mencionado artículo 63.
+
+
+    4. La Comisión Nacional de los Mercados y la Competencia revisará, en coordinación
+
+
+
+    con las autoridades reguladoras involucradas, el modelo adoptado en relación con
+    dichas
+
+    subastas regionales y su compatibilidad con el modelo de acoplamiento único intradiario
+    y
+
+    las subastas paneuropeas.
+
+
+    5. Los ingresos obtenidos como resultado de la asignación de capacidad en el
+
+
+
+    mercado intradiario en la interconexión España-Francia y España-Portugal tendrán
+    la
+
+    consideración de «rentas de congestión».
+
+
+    6. El Operador del Sistema y el Operador del Mercado aplicarán la metodología
+    para
+
+
+
+    la distribución de las rentas de congestión derivadas del acoplamiento del mercado
+
+    intradiario, según lo previsto en el artículo 73 del Reglamento (UE) 2015/1222.
+
+
+    Artículo 12. _Acoplamiento del mercado intradiario continuo europeo._
+
+
+
+    El mecanismo de acoplamiento del mercado intradiario continuo europeo seguirá
+    el
+
+
+
+    siguiente proceso:
+
+
+    1. El Operador del Sistema calculará la capacidad de intercambio de cada
+
+
+
+    interconexión, según lo establecido en el artículo 14 del Reglamento (UE) 2015/1222,
+    en
+
+    coordinación con los operadores de los sis'
+datasets:
+- pablosi/boe_sintetic_question_context
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+metrics:
+- cosine_accuracy@1
+- cosine_accuracy@3
+- cosine_accuracy@5
+- cosine_accuracy@10
+- cosine_precision@1
+- cosine_precision@3
+- cosine_precision@5
+- cosine_precision@10
+- cosine_recall@1
+- cosine_recall@3
+- cosine_recall@5
+- cosine_recall@10
+- cosine_ndcg@10
+- cosine_mrr@10
+- cosine_map@100
+model-index:
+- name: BGE large Legal Spanish Spa Law QA 2
+  results:
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 1024
+      type: dim_1024
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.22817460317460317
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.753968253968254
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.8373015873015873
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.876984126984127
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.22817460317460317
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.2513227513227513
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.16746031746031748
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.0876984126984127
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.22817460317460317
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.753968253968254
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.8373015873015873
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.876984126984127
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6037307215990698
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.5109780486268581
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.516588227438603
+      name: Cosine Map@100
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 768
+      type: dim_768
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.22420634920634921
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.75
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.8273809523809523
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.878968253968254
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.22420634920634921
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.25
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.1654761904761905
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.08789682539682539
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.22420634920634921
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.75
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.8273809523809523
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.878968253968254
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6021352413233844
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.5083868732678256
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.5138523153311494
+      name: Cosine Map@100
+---
+
+# BGE large Legal Spanish Spa Law QA 2
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [littlejohn-ai/bge-m3-spa-law-qa](https://huggingface.co/littlejohn-ai/bge-m3-spa-law-qa) on the [boe_sintetic_question_context](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context) dataset. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [littlejohn-ai/bge-m3-spa-law-qa](https://huggingface.co/littlejohn-ai/bge-m3-spa-law-qa) <!-- at revision 5242001c41c30df8f8f17db1196c81f71fe4f5bc -->
+- **Maximum Sequence Length:** 8192 tokens
+- **Output Dimensionality:** 1024 dimensions
+- **Similarity Function:** Cosine Similarity
+- **Training Dataset:**
+    - [boe_sintetic_question_context](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context)
+- **Language:** es
+- **License:** apache-2.0
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
+  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+  (2): Normalize()
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("pablosi/bge-m3-spa-law-qa-trained-2")
+# Run inference
+sentences = [
+    '¿Cuál es la disposición que se refiere a la hora de cierre de los establecimientos públicos en días laborables según el artículo 1.°?',
+    'n de las adscripciones o representaciones a que\nse refieren distintos apartados del artículo 11,2 del citado De\xad\n\n#### Art. 2:° Los sábados y vísperas de días festivos, los espec- creto orgánico del Consejo Nacional de Educación, táculos podrán terminar y los establecimientos públicos podrán Este Ministerio, haciendo uso de las atribuciones que le con\xad cerrar media hora más tarde de la que se determina en el fiere la disposición final segunda del citado Decreto orgánico, artículo l.° y de conformidad con el dictamen de la Asesoría Jurídica del\n Departamento, ha tenido a bien disponer lo siguiente:\n Art. 3.° La hora de cierre de los frontones podrá prorrogar\xad\nse excepcionalmente, en caso de empate de los partidos, hasta Primero.—Lo dispuesto en el artículo 14 del Decreto 2763/1971,\n\nde 21 de octubre, que organizó el Consejo Nacional de Educa\xad\n\n#### que sea necesaria, siempre que éstos hubieran comenzado a la hora establecida. ción, respecto de los Consejeros que lo fueran por razón de su\n cargo, debe entenderse no sólo respecto de los Consejeros natos,\n Art. 4.° Los bares interiores de los hoteles podrán retrasar sino también de los Consejeros designados por este Ministerio, su hora',
+    'o corrientes** 0330 ........................\n\n**TOTAL ACTIVO (A+B)** 0340 ........................\n\n**PASIVO Y PATRIMONIO NETO**\n\n\n**A) PASIVO CORRIENTE** 0350 ........................\n\n**I. Periodificaciones** 0360 ........................\n**II. Acreedores y cuentas a pagar** 0370 ........................\n**III. Deudas con empresas del grupo y asociadas a corto plazo** 0380 ........................\n**IV. Deudas a corto plazo** 0390 ........................\n**V. Provisiones a corto plazo** 0400 ........................\n**VI. Otros pasivos corrientes** 0410 ........................\n\n**B) PASIVO NO CORRIENTE** 0420 ........................\n\n**I. Periodificaciones** 0430 ........................\n**II. Pasivos por impuesto diferido** 0440 ........................\n**III. Deudas con empresas del grupo y asociadas a largo plazo** 0450 ........................\n**IV. Deudas a largo plazo** 0460 ........................\n**V. Provisiones a largo plazo** 0470 ........................\n**VI. Otros pasivos no corrientes** 0480 ........................\n**TOTAL PASIVO (A+B)** 0490 ........................\n\n**C) PATRIMONIO NETO** 0500 ........................\n\n**C-1) FONDOS REEMBOLSABLES** 0510 ....',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 1024]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Information Retrieval
+
+* Datasets: `dim_1024` and `dim_768`
+* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
+
+| Metric              | dim_1024   | dim_768    |
+|:--------------------|:-----------|:-----------|
+| cosine_accuracy@1   | 0.2282     | 0.2242     |
+| cosine_accuracy@3   | 0.754      | 0.75       |
+| cosine_accuracy@5   | 0.8373     | 0.8274     |
+| cosine_accuracy@10  | 0.877      | 0.879      |
+| cosine_precision@1  | 0.2282     | 0.2242     |
+| cosine_precision@3  | 0.2513     | 0.25       |
+| cosine_precision@5  | 0.1675     | 0.1655     |
+| cosine_precision@10 | 0.0877     | 0.0879     |
+| cosine_recall@1     | 0.2282     | 0.2242     |
+| cosine_recall@3     | 0.754      | 0.75       |
+| cosine_recall@5     | 0.8373     | 0.8274     |
+| cosine_recall@10    | 0.877      | 0.879      |
+| **cosine_ndcg@10**  | **0.6037** | **0.6021** |
+| cosine_mrr@10       | 0.511      | 0.5084     |
+| cosine_map@100      | 0.5166     | 0.5139     |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### boe_sintetic_question_context
+
+* Dataset: [boe_sintetic_question_context](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context) at [2391ba7](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context/tree/2391ba719dd5798b09c08f4afa5eb93d95d7581b)
+* Size: 5,036 training samples
+* Columns: <code>question</code> and <code>context</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | question                                                                          | context                                                                             |
+  |:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                              |
+  | details | <ul><li>min: 3 tokens</li><li>mean: 26.99 tokens</li><li>max: 66 tokens</li></ul> | <ul><li>min: 2 tokens</li><li>mean: 279.97 tokens</li><li>max: 964 tokens</li></ul> |
+* Samples:
+  | question                                                                                                                                                                                                                      | context                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          |
+  |:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>¿Cuáles son las funciones que corresponden a la Vicesecretaría General Técnica en relación con el régimen interior y económico?</code>                                                                                  | <code>Explotación<br><br>###### Artículo octavo y de Señales Marítimas.<br><br>A la Vicesecretaría General Técnica corresponden las funcio~<br><br>nes relativas al régimen interior y económico, información, _Artículo decimosexto_<br>iniciativas, derecho de petición, archivo, biblioteca, documen-<br><br>La Dirección General de Transportes Terrestres estará. inte-<br><br>tación, relaciones internacionales y demás que le encomiende<br><br>grada por las siguientes unidades:<br><br>el Secretario general Técnico.<br><br>                                                           - Subdirección General de Planificación y Obras.<br><br>###### Articulo noveno - Subdirección General de Explotación.<br><br>La Subdirección General de Programación Económica. tendrá _Artículo decimoséptimo_<br>a. su 'cargo la realización de estudios económicos, elaboración<br>de las estadisticas del Departamento, estudios y proyectos de A la Subdirección General de Planificación y Obras le, correS'"<br>financiación e informes sobre inversiones y realizaciones del ponderá el examen de anteproye...</code> |
+  | <code>¿Qué tipo de documentación oficial deben exhibir los funcionarios y agentes de las administraciones comunes del país limitrofe para acreditar su nacionalidad, identidad, calidad y naturaleza de sus funciones?</code> | <code>ones conı­<br>neD!"'.! . bajo lOS :ıuspicios de la Comisi6n econ6mic:ı Europea petent,sdel pais limitrofe deberiıı llevar el uniforme ıiacional<br>con el fin. _de_ !'acilitar el paso de ıa. fronteras a l:l.'i memıncias o el signo discintivo prescl'ito por los reglamentos de dicho pais.<br>transportadas POl' via .fcrrea. 3. 10s funcionarios y agentes de las administraciones com-<br>aeuerdan 10 siguiente': petentes del pais limitrofe que tengaıı que dirigirse a La esıa­<br><br>cl6n p:mi la reallzacl6n de la.> ln,pecciones previstas POl' ci pre-<br><br>TITULOI sente Convenio queoar:ın dispensados de las formalidades de<br><br>pasaportes. La exhibici6n de su documentaci6n cficial ser:i. su-<br><br>CreQ~on y regiınen _de_ cstadorıt's _de_ _jronterQ_ _con_ _inspectiones_ ficiente para acreditar su nacionalidad. su jdenıidad. su ca.lidad<br><br>nC!dr...~a.!rz ;:u.:::ta-p--.ıcsta:; y la naturaleza de sus funcia:ıes.<br><br>4. LCIlI lunciona.rios )' agent.>s mencıonad05 en 105 parra-<br><br>Artıculo primero fas 2 y 3 de! presente articulo recibiri...</code>                   |
+  | <code>¿Cuál es el período máximo de vinculación provisional o a prueba que pueden establecer los estatutos de una sociedad cooperativa de segundo grado?</code>                                                               | <code>ría en los estatutos, que también podrá regular un período de vinculación<br>provisional o a prueba de hasta dos años.<br><br>3. El socio persona jurídica que pretenda darse de baja habrá de cursar un preaviso<br>de al menos un año. Trascurrido el periodo de preaviso y antes de su efectiva separación<br>estará obligado a cumplir las obligaciones contraídas con la sociedad cooperativa de<br>segundo grado o a resarcirla económicamente, si así lo decide el consejo rector de esta.<br>Asimismo, salvo previsión estatutaria en contra, la entidad separada deberá continuar<br>desarrollando, durante un plazo no inferior a dos años, aquellos compromisos adquiridos<br>que hubiera asumido con anterioridad a la fecha de la baja.<br><br>Artículo 132. Régimen económico.<br><br><br>Las aportaciones obligatorias al capital social de una sociedad cooperativa de<br>segundo grado se realizarán en función de la actividad cooperativizada comprometida<br>con aquella por cada socio.<br><br>Artículo 133. Órganos sociales.<br><br><br>1. La asamblea general estará formada po...</code>          |
+* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
+  ```json
+  {
+      "loss": "MultipleNegativesRankingLoss",
+      "matryoshka_dims": [
+          1024,
+          768
+      ],
+      "matryoshka_weights": [
+          1,
+          1
+      ],
+      "n_dims_per_step": -1
+  }
+  ```
+
+### Evaluation Dataset
+
+#### boe_sintetic_question_context
+
+* Dataset: [boe_sintetic_question_context](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context) at [2391ba7](https://huggingface.co/datasets/pablosi/boe_sintetic_question_context/tree/2391ba719dd5798b09c08f4afa5eb93d95d7581b)
+* Size: 5,036 evaluation samples
+* Columns: <code>question</code> and <code>context</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | question                                                                          | context                                                                              |
+  |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                               |
+  | details | <ul><li>min: 4 tokens</li><li>mean: 27.32 tokens</li><li>max: 64 tokens</li></ul> | <ul><li>min: 20 tokens</li><li>mean: 269.89 tokens</li><li>max: 787 tokens</li></ul> |
+* Samples:
+  | question                                                                                                                                                       | context                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                              |
+  |:---------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>¿Qué tipo de productos están excluidos de la aplicación del Real Decreto 1801/2003, de 26 de diciembre, sobre seguridad general de los productos?</code> | <code>1801/2003, de 26<br>de diciembre, sobre seguridad general de los productos,<br>para aquellos productos afectados por este real decreto, a<br>excepción de los productos de renovación del acabado de<br>vehículos.<br>b) Las previstas en la Ley 21/1992, de 16 de julio, de<br>Industria, para los productos de renovación del acabado<br>de vehículos afectados por este real decreto.<br><br>2. Los productos objeto de este real decreto serán<br>considerados seguros cuando cumplan, además de los<br>requisitos que les sean exigibles por la legislación vigente,<br>lo dispuesto en este real decreto.<br><br><br>Artículo 6. _Información_ _al_ _Ministerio_ _de_ _Medio_<br>_Ambiente._<br><br>Las comunidades autónomas remitirán al Ministerio de<br>Medio Ambiente un informe que contenga los resultados<br>de las medidas del programa de control al que se refiere el<br>artículo 5 y una relación de las categorías y cantidades de<br>producto para cuya compraventa hayan concedido permisos, según lo dispuesto en la disposición adicional<br>segunda, a efectos de su comunicación a l...</code>                                        |
+  | <code>¿En qué artículo de la Constitución se basa el Estado para dictar la legislación procesal mencionada en el texto?</code>                                 | <code>tencia estatal._<br><br>Esta Ley Orgánica se dicta en ejercicio de las competencias atribuidas al Estado en materia de legislación<br>procesal por el artículo 149.1.6.ª de la Constitución.<br><br><br>Disposición final segunda. _Entrada en vigor._<br><br>La presente Ley Orgánica entrará en vigor el día<br>siguiente al de su publicación en el «Boletín Oficial del<br>Estado».<br><br>Por tanto,<br>Mando a todos los españoles, particulares y autoridades, que guarden y hagan guardar esta Ley Orgánica.<br><br>Madrid, 5 de junio de 2006.<br><br>JUAN CARLOS R.<br><br>El Presidente del Gobierno,<br><br>JOSÉ LUIS RODRÍGUEZ ZAPATERO<br><br>### 9958 LEY 17/2006, de 5 de junio, de la radio y la tele_visión de titularidad estatal._<br><br>JUAN CARLOS I<br><br>REY DE ESPAÑA<br><br>A todos los que la presente vieren y entendieren.<br>Sabed: Que las Cortes Generales han aprobado y Yo<br>vengo en sancionar la siguiente Ley.<br><br>EXPOSICIÓN DE MOTIVOS<br><br>La Constitución en su artículo 20 garantiza valores de<br>pluralismo, veracidad y accesibilidad con el fin de contribuir a la formación de una opinión pú...</code> |
+  | <code>¿Cuál es el propósito principal de la Comisión Mixta establecida en el Artículo 30?</code>                                                               | <code> Organismos de Enlace de ambas Partes intercambiarán los datos estadísticos relativos a los pagos de<br>prestaciones efectuados a los beneficiarios de una Parte<br>que residan en el territorio de la otra Parte. Dichos datos<br>contendrán el número de beneficiarios y el importe total<br>de las prestaciones abonadas durante cada año civil.<br>2. Las Autoridades y los Organismos de Enlace de<br>ambas Partes estarán obligados a facilitar, cuando les<br>sean requeridos por la otra Parte, toda la información y<br>datos sobre los sistemas de cálculo de los costes de las<br>prestaciones sanitarias.<br><br>Artículo 30. _Comisión Mixta._<br><br>Con el fin de resolver cuantos problemas puedan surgir en aplicación del Convenio y el presente Acuerdo<br>Administrativo, así como para el seguimiento de los mismos, las Autoridades Competentes de ambas Partes<br>podrán reunirse en Comisión Mixta, asistidas por representantes de sus respectivas Instituciones Competentes.<br><br>Artículo 31. _Pago de prestaciones._<br><br>Las prestaciones que, conforme a la leg...</code>                                                    |
+* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
+  ```json
+  {
+      "loss": "MultipleNegativesRankingLoss",
+      "matryoshka_dims": [
+          1024,
+          768
+      ],
+      "matryoshka_weights": [
+          1,
+          1
+      ],
+      "n_dims_per_step": -1
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: epoch
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 16
+- `gradient_accumulation_steps`: 16
+- `learning_rate`: 2e-05
+- `num_train_epochs`: 8
+- `lr_scheduler_type`: cosine
+- `warmup_ratio`: 0.1
+- `bf16`: True
+- `tf32`: True
+- `dataloader_num_workers`: 4
+- `load_best_model_at_end`: True
+- `optim`: adamw_torch_fused
+- `gradient_checkpointing`: True
+- `batch_sampler`: no_duplicates
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: epoch
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 16
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 16
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1.0
+- `num_train_epochs`: 8
+- `max_steps`: -1
+- `lr_scheduler_type`: cosine
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.1
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: True
+- `fp16`: False
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: True
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 4
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: True
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch_fused
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: False
+- `hub_always_push`: False
+- `gradient_checkpointing`: True
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `include_for_metrics`: []
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `dispatch_batches`: None
+- `split_batches`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `eval_use_gather_object`: False
+- `average_tokens_across_devices`: False
+- `prompts`: None
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: proportional
+
+</details>
+
+### Training Logs
+| Epoch      | Step   | Training Loss | Validation Loss | dim_1024_cosine_ndcg@10 | dim_768_cosine_ndcg@10 |
+|:----------:|:------:|:-------------:|:---------------:|:-----------------------:|:----------------------:|
+| 0.2817     | 5      | 0.3683        | -               | -                       | -                      |
+| 0.5634     | 10     | 0.2652        | -               | -                       | -                      |
+| 0.8451     | 15     | 0.1906        | -               | -                       | -                      |
+| **0.9577** | **17** | **-**         | **0.1344**      | **0.6292**              | **0.6278**             |
+| 1.1549     | 20     | 0.1341        | -               | -                       | -                      |
+| 1.4366     | 25     | 0.1358        | -               | -                       | -                      |
+| 1.7183     | 30     | 0.0547        | -               | -                       | -                      |
+| 1.9437     | 34     | -             | 0.1179          | 0.6247                  | 0.6198                 |
+| 2.0282     | 35     | 0.0553        | -               | -                       | -                      |
+| 2.3099     | 40     | 0.0433        | -               | -                       | -                      |
+| 2.5915     | 45     | 0.0376        | -               | -                       | -                      |
+| 2.8732     | 50     | 0.0248        | -               | -                       | -                      |
+| 2.9296     | 51     | -             | 0.1209          | 0.6203                  | 0.6152                 |
+| 3.1831     | 55     | 0.0209        | -               | -                       | -                      |
+| 3.4648     | 60     | 0.0246        | -               | -                       | -                      |
+| 3.7465     | 65     | 0.0119        | -               | -                       | -                      |
+| 3.9718     | 69     | -             | 0.1167          | 0.6194                  | 0.6133                 |
+| 4.0563     | 70     | 0.014         | -               | -                       | -                      |
+| 4.3380     | 75     | 0.0164        | -               | -                       | -                      |
+| 4.6197     | 80     | 0.0117        | -               | -                       | -                      |
+| 4.9014     | 85     | 0.0091        | -               | -                       | -                      |
+| 4.9577     | 86     | -             | 0.1234          | 0.6046                  | 0.6067                 |
+| 5.2113     | 90     | 0.0082        | -               | -                       | -                      |
+| 5.4930     | 95     | 0.0119        | -               | -                       | -                      |
+| 5.7746     | 100    | 0.0061        | -               | -                       | -                      |
+| 5.9437     | 103    | -             | 0.1288          | 0.6050                  | 0.6018                 |
+| 6.0845     | 105    | 0.0069        | -               | -                       | -                      |
+| 6.3662     | 110    | 0.0133        | -               | -                       | -                      |
+| 6.6479     | 115    | 0.0059        | -               | -                       | -                      |
+| 6.9296     | 120    | 0.006         | 0.1301          | 0.5960                  | 0.5984                 |
+| 7.2394     | 125    | 0.0061        | -               | -                       | -                      |
+| 7.5211     | 130    | 0.0101        | -               | -                       | -                      |
+| 7.8028     | 135    | 0.005         | -               | -                       | -                      |
+| 7.8592     | 136    | -             | 0.1305          | 0.6037                  | 0.6021                 |
+
+* The bold row denotes the saved checkpoint.
+
+### Framework Versions
+- Python: 3.10.14
+- Sentence Transformers: 3.3.0
+- Transformers: 4.46.2
+- PyTorch: 2.2.2
+- Accelerate: 1.1.1
+- Datasets: 3.1.0
+- Tokenizers: 0.20.3
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### MatryoshkaLoss
+```bibtex
+@misc{kusupati2024matryoshka,
+    title={Matryoshka Representation Learning},
+    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
+    year={2024},
+    eprint={2205.13147},
+    archivePrefix={arXiv},
+    primaryClass={cs.LG}
+}
+```
+
+#### MultipleNegativesRankingLoss
+```bibtex
+@misc{henderson2017efficient,
+    title={Efficient Natural Language Response Suggestion for Smart Reply},
+    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
+    year={2017},
+    eprint={1705.00652},
+    archivePrefix={arXiv},
+    primaryClass={cs.CL}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,28 @@
+{
+  "_name_or_path": "littlejohn-ai/bge-m3-spa-law-qa",
+  "architectures": [
+    "XLMRobertaModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "eos_token_id": 2,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 1024,
+  "initializer_range": 0.02,
+  "intermediate_size": 4096,
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 8194,
+  "model_type": "xlm-roberta",
+  "num_attention_heads": 16,
+  "num_hidden_layers": 24,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.46.2",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 250002
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+  "__version__": {
+    "sentence_transformers": "3.3.0",
+    "transformers": "4.46.2",
+    "pytorch": "2.2.2"
+  },
+  "prompts": {},
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3919aeda5ede6cb860b8efcb9d7032b5af0a5c9c36e255de130fe9502023e857
+size 2271064456

modules.json

@@ -0,0 +1,20 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  },
+  {
+    "idx": 2,
+    "name": "2",
+    "path": "2_Normalize",
+    "type": "sentence_transformers.models.Normalize"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+  "max_seq_length": 8192,
+  "do_lower_case": false
+}

special_tokens_map.json

@@ -0,0 +1,51 @@
+{
+  "bos_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "cls_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "eos_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "mask_token": {
+    "content": "<mask>",
+    "lstrip": true,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "pad_token": {
+    "content": "<pad>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "sep_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "<unk>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e4f7e21bec3fb0044ca0bb2d50eb5d4d8c596273c422baef84466d2c73748b9c
+size 17083053

tokenizer_config.json

@@ -0,0 +1,62 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "<s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "<pad>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "</s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "<unk>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "250001": {
+      "content": "<mask>",
+      "lstrip": true,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "mask_token": "<mask>",
+  "max_length": 8192,
+  "model_max_length": 8192,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "</s>",
+  "sp_model_kwargs": {},
+  "stride": 0,
+  "tokenizer_class": "XLMRobertaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>"
+}