metadata

language:
  - es
  - en
license: apache-2.0
dataset_info:
  features:
    - name: raw_text
      dtype: string
    - name: topic
      dtype: string
    - name: speciallity
      dtype: string
    - name: raw_text_type
      dtype: string
    - name: topic_type
      dtype: string
    - name: source
      dtype: string
    - name: country
      dtype: string
    - name: document_id
      dtype: string
  splits:
    - name: train
      num_bytes: 190710909
      num_examples: 2136490
  download_size: 48472707
  dataset_size: 190710909
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Dataset Card for Spanish Medical Corpus (SMC)

Este dataset agrupa y organiza varios dataset presentes en hugginface (p.ej: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) y otros recursos públicos creados por investigadores con distintos formatos (p.ej.; MedLexSp ) para permitir ser fuente de conocimiento de grandes modelos de lenguaje en idioma español para el dominio médico.

Dataset Card in Spanish

Dataset Details

Dataset Description

Curated by: Dionis López Ramos, Alvaro Garcia Barragan, Dylan Montoya, Daniel Bermúdez
Funded by: SomosNLP, HuggingFace, Argilla, Universidad de Oriente (Cuba)
Language(s) (NLP): Spanish (es-ES, es-CL)
License: apache-2.0

Dataset Sources

Repository: somosnlp/SMC
Paper: "Comming soon!"
Demo: somosnlp/SMC/viewer
Video presentation: SpanishMedicaLLM | Proyecto Hackathon #SomosNLP

Uses

Se sugiere el uso de este dataset para lograr el autojuste y prentrenamiento de LLM para el dominio médico con información en idioma español.

Direct Use

Fine Tuning an LLM instruction in Spanish language with question prompts and answers.

Out-of-Scope Use

Los creadores del dataset no se hacen responsable de resultados nocivos que puedan generar los modelos al ser entrenados con esta información. Se sugiere un proceso de evaluación riguroso con especialistas de los resultados generados por modelos de LLM entrenados.

Dataset Structure

Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:

question (raw_text): Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
answer (topic): (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis), tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
speciality: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
raw_text_type: (Puede ser clinic_case, open_text, question o vacio)
topic_type: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
source: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
country: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
document_id: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca

Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección Source Data la descripción de la fuente de información con los siguientes datos:

Id: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
Nombre: Nombre de la fuente de donde procede.
Tokens: Cantidad de tokens que contiene.
Memoria: Tamaño en memoria del dataset generado para hugginface
Licencia: En este caso si es solo para investigación o si posee otra licencia como MIT, Apache 2 u otras
Dirección: URL de donde se puede descargar o consultar la información.
País: País de procedencia de la información usando el standar ISO 3166-1 código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.

Dataset Creation

Curation Rationale

Más de 600 millones de personas hablantes del idioma español necesitan recursos, como los LLMs, para la obtención de información médica de forma libre y segura, cumpliendo con los objetivo del milenio: Salud y Bienestar, Educación y Calidad, Fin de la Pobreza propuestos por la ONU. Existen pocos recursos o conjuntos de datos del dominio médico para el entrenamiento o autoajuste de un LLM en idioma español.

Para entrenar un autoajustar un LLM en el dominio de la medicina y los cuidados de salud se necesitan gran cantidad de datos de este contexto. Para crear un conjunto de datos en el dominio médico es necesaria alguna certificación por especialistas en la construcción del corpus.

Source Data

Id	Nombre	Tokens	Memoria	Licencia	Dirección	País
1	Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology	349287	9157 kB	CC Attribution 4.0 International	https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb	es
2	MedlinePlus Spanish (National Library of Medicine, NLM)	7757337	35 MB		https://medlineplus.gov/spanish/	es
3	PharmaCoNER	275955	2 MB	CC Attribution 4.0 International	https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer	es
4	Spanish Biomedical Crawled Corpus	1973048	264 MB	cc-by-4.0	https://zenodo.org/records/5513237	es
5	CARES	322353	1828 kB	Afl-3.0	https://huggingface.co/datasets/chizhikchi/CARES	es
6	MEDDOCAN	364462	1639 kB	cc-by-4.0	https://huggingface.co/datasets/bigbio/meddocan	es
7	Alvaro8gb/enfermedades-wiki-marzo-2024	1424685	9073 kB	MIT	https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024	es
8	BioMistral/BioInstructQA(spanish)	1072476	5963 kB	Apache 2.0	https://huggingface.co/datasets/BioMistral/BioInstructQA	ca
9	DisTEMIST	550203	2754 kB	cc-by-4.0	https://huggingface.co/datasets/bigbio/distemist	es
10	The Chilean Waiting List Corpus	678934	3116 kB	cc-by-4.0	https://zenodo.org/records/5518225 or https://huggingface.co/plncmm	cl
11	BARR2	1732432	8472 kB	cc-by-4.0	https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2	es
12	SPACC	551849	2711 kB	cc-by-4.0	https://zenodo.org/records/2560316	es
13	MedLexSp	608374	21 MByte	MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes.	https://digital.csic.es/handle/10261/270429	es

Data Collection and Processing

Sugerencias:

En el caso de BioMistral/BioInstructQA se utilizó la información en idioma español. Para más información consultar el artículo BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains.
Para Cantemist se hizo una búsqueda del código asociado a la patología y se estableció como tópico.
En CARES se busco el tipo asociado en la tabla de códigos establecido.

Who are the source data producers?

Diferentes eventos, competencias de PLN o la construcción de los conjuntos de datos para LLM como BioMistral. Ver tabla en la sección Source Data

Annotation process

El proceso de anotacion fue automático, realizando la converción de las fuentes de datos a los atributos del nuevo conjunto de datos.

Who are the annotators?

Ver la sección Team

Personal and Sensitive Information

En el proceso de construcción se tuvo en cuenta que no se incluyeran datos sensibles de los usuarios en ninguno de los casos (p.ej.; casos clinicos).

Bias, Risks, and Limitations

Se sugiere tener en cuenta el alcance de las licencia de cada una de las fuentes (e.d., revisar el campo source y Licencia de la tabla anterior).

En el caso de necesitar filtrar por fuente de datos u otro criterio usted puede auxiliarse de las propiedades de la estructura de datos Dataset del marco de trabajo Hugginface. En el siguiente ejemplo de código se obtienen del conjunto de datos las entradas que tienen un tipo de tópico sobre diagnóstico medico o un tópico médico:


  spanishMedicaLllmDataset =
      load_dataset(SPANISH_MEDICA_LLM_DATASET, split="train")
      
  spanishMedicaLllmDataset =
      spanishMedicaLllmDataset.filter(lambda example: example["topic_type"] in ['medical_diagnostic' | 'medical_topic'])

Recommendations

Los usuarios deben ser conscientes de los riesgos, sesgos y limitaciones del conjunto de datos.

Para el autojuste de un LLM se sugiere tener en cuenta las filas donde el tipo del tópico (ed., campo topic_type) tenga valores: medical_topic, medical_diagnostic, answer, natural_medicine_topic. Porque indica que este campo no está vacio y tiene valor para la creación de intrucciones de la forma pregunta y respuestas.

Para el prentrenamiento de un LLM se sugiere tener en cuenta cuando el campo raw_text_type sea igual a open_text. Esto indica que el texto presente no forma parte de un formato pregunta/respuesta pero tiene un valor importante para el prentrenamiento de un LLM.

License

Apache License 2.0

Citation

BibTeX:

@software{lopez2024spanishmedicallm,
  author = {Lopez Dionis, Garcia Alvaro, Montoya Dylan, Bermúdez Daniel},
  title = {SpanishMedicaLLM},
  month = February,
  year = 2024,
  url = {https://huggingface.co/datasets/HuggingFaceTB/cosmopedia}
}

More Information

This project was developed during the Hackathon #Somos600M organized by SomosNLP. The dataset was created using distilabel by Argilla and endpoints sponsored by HuggingFace.

Team:

Contact

For any doubt or suggestion contact to: PhD Dionis López ([email protected])