Update README.md

README.md

@@ -33,132 +33,8 @@ configs:
   - split: train
     path: data/train-*
 ---
-# Dataset Card for Dataset Spanish Medical
 
-<!-- Provide a quick summary of the dataset. -->
-Este dataset agrupa y organiza varios dataset presentes en hugginface (p.ej: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) 
-y otros recursos públicos creados por investigadores con distintos formatos (p.ej.; MedLexSp ) 
-para permitir ser fuente de conocimiento de grandes modelos de lenguaje en idioma español para el dominio médico.
-
-## Dataset Details
-
-### Dataset Description
-
-<!-- Provide a longer summary of what this dataset is. -->
-
-- **Funded by:** [Dionis López Ramos](https://www.linkedin.com/in/dionis-lopez-ramos/), [Alvaro Garcia Barragan](https://huggingface.co/Alvaro8gb), [Dylan Montoya](https://huggingface.co/dylanmontoya22), [Daniel](https://huggingface.co/Danielbrdz)  
-- **Language(s) (NLP):** Spanish
-- **License:** Apache License 2.0
-
-### Dataset Sources [optional]
-
-<!-- Provide the basic links for the dataset. 
-
-- **Repository:** [More Information Needed]
-- **Paper [optional]:** [More Information Needed]
-- **Demo [optional]:** [More Information Needed]
--->
-
-## Uses
-
- Se sugiere el uso de este dataset para lograr el autojuste y prentrenamiento de LLM para el dominio médico con información en idioma español.
-
-### Out-of-Scope Use
-
-<!-- This section addresses misuse, malicious use, and uses that the dataset will not work well for. -->
-
-Los creadores del dataset no se hacen responsable de resultados nocivos que puedan generar los modelos al ser entrenados con esta información.
-Se sugiere un proceso de evaluación riguroso con especialistas de los resultados generados por modelos de LLM entrenados.
-
-## Dataset Structure
-
-<!-- This section provides a description of the dataset fields, and additional information about the dataset structure such as criteria used to create the splits, relationships between data points, etc. -->
-Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:
-
-- **question (raw_text)**: Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
-- **answer (topic)**: (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis),
-             tópico de salud (topic),  respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
-- **speciality**: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
-- **raw_text_type**: (Puede ser clinic_case, open_text, question o vacio)
-- **topic_type**: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
-- **source**: Identificador de la fuente asociada al documento que aparece en el README  y  descripción del dataset.
-- **country**: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
-- **document_id**: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca
-<!-- - **idioma**: (Variedad geográfica) código ISO del idioma -->
-<!--- **registro** (Variedad funcional): Siempre es  `medio`.  -->
-<!-- - **periodo** (Variedad histórica):  Siempre es `actual`.  -->
-<!-- - **dominio**: salud (clínico, biomédico, farmacia). -->
-<!-- - **tarea**: `pregunta` | `resumen` | `open_text` | `clinic_case`.  -->
-<!--  - **país_origen**:  País de origen de los datos. -->
-  
-Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección [Source Data](#source_data) la 
-descripción de la fuente de información con los siguientes datos: 
-
-- **Id**: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
-- **Nombre**: Nombre de la fuente de donde procede.
-- **Tokens**: Cantidad de tokens que contiene.
-- **Memoria**: Tamaño en memoria del dataset generado para hugginface
-- **Licencia**: En este caso si es solo para investigación o si posee otra licencia como MIT, 
-               Apache 2 u otras
-- **Dirección**: URL de donde se puede descargar o consultar la información.
-- **País**: País de procedencia de la información usando el [standar ISO 3166-1](https://es.wikipedia.org/wiki/ISO_3166-1) código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.
-  
-### Source Data
-
-<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
-
-| Id | Nombre | Tokens | Memoria | Licencia | Dirección | País |
-| --- | ----------- | ----------- | ----------- | ----------- | ----------- | ----------- | 
-| 1 | Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology | 349287 | 9157 kB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb | es |
-| 2 | MedlinePlus Spanish (National Library of Medicine, NLM) | 7757337 | 35 MB |  | https://medlineplus.gov/spanish/ | es |
-| 3 | PharmaCoNER  | 275955 | 2 MB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer | es |
-| 4 | Spanish Biomedical Crawled Corpus  | 1973048 | 264 MB | cc-by-4.0 | https://zenodo.org/records/5513237 | es |
-| 5 | CARES  | 322353 | 1828 kB | Afl-3.0 | https://huggingface.co/datasets/chizhikchi/CARES | es |
-| 6 | MEDDOCAN  | 364462 | 1639 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/meddocan | es |
-| 7 | Alvaro8gb/enfermedades-wiki-marzo-2024  | 1424685 | 9073 kB | [MIT](https://choosealicense.com/licenses/mit/) | https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 | es |
-| 8 | BioMistral/BioInstructQA(**spanish**)  | 1072476 | 5963 kB | [Apache 2.0](https://choosealicense.com/licenses/apache-2.0/) | https://huggingface.co/datasets/BioMistral/BioInstructQA | ca |
-| 9 | DisTEMIST  | 550203 | 2754 kB | cc-by-4.0  | https://huggingface.co/datasets/bigbio/distemist | es |
-| 10 | The Chilean Waiting List Corpus  | 678934 | 3116 kB | cc-by-4.0  | https://zenodo.org/records/5518225 or https://huggingface.co/plncmm | cl |
-| 11 | BARR2  | 1732432 | 8472 kB | cc-by-4.0  | https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 | es |
-| 12 | SPACC  | 551849 | 2711 kB | cc-by-4.0  | https://zenodo.org/records/2560316 | es |
-| 13 | MedLexSp | 608374 | 21 MByte | MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. | https://digital.csic.es/handle/10261/270429 | es |
-
-#### Data Collection and Processing
-
-<!-- This section describes the data collection and processing process such as data selection criteria, filtering and normalization methods, tools and libraries used, etc. -->
-
- - En el caso de [BioMistral/BioInstructQA](https://huggingface.co/datasets/BioMistral/BioInstructQA) se utilizó la información en idioma español. Para más información consultar el artículo [BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains](https://arxiv.org/pdf/2402.10373.pdf?trk=public_post_comment-text).
- - Para [Cantemist](https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb) se hizo una búsqueda del código asociado a la patología y se estableció como tópico.
- - En [CARES](https://huggingface.co/datasets/chizhikchi/CARES) se busco el tipo asociado en la tabla de códigos establecido.
- 
-## Bias, Risks, and Limitations
-
-<!-- This section is meant to convey both technical and sociotechnical limitations. -->
-
-Se sugiere tener en cuenta el alcance de las licencia de cada una de las fuentes (e.d., revisar el campo source y Licencia de la tabla anterior).
-
-En el caso de necesitar filtrar por fuente de datos u otro criterio usted puede auxiliarse de las propiedades de la estructura de datos `Dataset` del marco de trabajo
-Hugginface. En el siguiente ejemplo de código se obtienen del conjunto de datos las entradas que tienen un tipo de tópico sobre diagnóstico medico o un tópico médico:
-
-
-` 
-  spanishMedicaLllmDataset = load_dataset(SPANISH_MEDICA_LLM_DATASET, split="train")
-  spanishMedicaLllmDataset = spanishMedicaLllmDataset.filter(lambda example: example["topic_type"] in ['medical_diagnostic' | 'medical_topic'])
-`
-
-### Recommendations
-
-<!-- This section is meant to convey recommendations with respect to the bias, risk, and technical limitations. -->
-
-Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.
-Se sugiere tener en cuenta las filas donde el tipo del topic (e.d., campo topic_type) tenga valores `medical_topic`, `medical_diagnostic`, `answer`, `natural_medicine_topic`
-para un autojuste del modelo y en el caso de que el texto se `open_text` un pre-entranmiento inicial del modelo LLM.
-
-## Dataset Card Contact
-
- For any doubt or suggestion contact to: PhD Dionis López ([email protected])
-
- <!-- ###################################################################################################################### --->
+<!-- ###################################################################################################################### --->
 
  <!--
 Esta plantilla de Dataset Card es una adaptación de la de Hugging Face: https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md
@@ -177,9 +53,17 @@ Para más información sobre la dataset card metadata ver: https://github.com/hu
 <!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
 
 <!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
-This dataset groups and organizes several datasets present in hugginface (e.g.: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer)
-and other public resources created by researchers with different formats (e.g.; MedLexSp ) to allow it to be a source of knowledge of large language models 
-in Spanish for the medical domain.
+
+Este dataset agrupa y organiza varios dataset presentes en hugginface (p.ej: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) 
+y otros recursos públicos creados por investigadores con distintos formatos (p.ej.; MedLexSp ) 
+para permitir ser fuente de conocimiento de grandes modelos de lenguaje en idioma español para el dominio médico.
+
+<!--
+  This dataset groups and organizes several datasets present in hugginface (e.g.: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer)
+  and other public resources created by researchers with different formats (e.g.; MedLexSp ) to allow it to be a source of knowledge of large language models 
+  in Spanish for the medical domain.
+-->
+
 [**Dataset Card in Spanish**](README_es.md)
 
 ## Dataset Details
@@ -203,7 +87,7 @@ in Spanish for the medical domain.
 ## Uses
 
 <!-- Address questions around how the dataset is intended to be used. -->
-The use of this dataset is suggested to achieve finetuning and pre-training of LLM for the medical domain with information in Spanish language.
+ Se sugiere el uso de este dataset para lograr el autojuste y prentrenamiento de LLM para el dominio médico con información en idioma español.
 
 ### Direct Use
 
@@ -215,6 +99,9 @@ Fine Tuning an LLM instruction in Spanish language with question prompts and ans
 ### Out-of-Scope Use
 
 <!-- This section addresses misuse, malicious use, and uses that the dataset will not work well for. -->
+Los creadores del dataset no se hacen responsable de resultados nocivos que puedan generar los modelos al ser entrenados con esta información.
+Se sugiere un proceso de evaluación riguroso con especialistas de los resultados generados por modelos de LLM entrenados.
+
 
 [More Information Needed]
 
@@ -254,6 +141,22 @@ descripción de la fuente de información con los siguientes datos:
 - **Dirección**: URL de donde se puede descargar o consultar la información.
 - **País**: País de procedencia de la información usando el [standar ISO 3166-1](https://es.wikipedia.org/wiki/ISO_3166-1) código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.
   
+
+## Dataset Creation
+
+### Curation Rationale
+
+<!-- Motivation for the creation of this dataset. -->
+Más de 600 millones de personas hablantes del idioma español necesitan recursos, como los LLMs,  
+para la obtención de información médica de forma libre y segura, cumpliendo con los objetivo del milenio: Salud y Bienestar, Educación y Calidad, 
+Fin de la Pobreza propuestos por la ONU. Existen pocos recursos o conjuntos de datos del dominio médico para el entrenamiento o autoajuste de un LLM en idioma español.
+
+Para entrenar un autoajustar un LLM en el dominio de la medicina y los cuidados de salud se necesitan gran cantidad de datos de este contexto.
+Para crear un conjunto de datos en el dominio médico es necesaria alguna certificación por especialistas en la construcción del corpus.
+
+
+
+![image/png](https://cdn-uploads.huggingface.co/production/uploads/62347beee9f3c3409fa58cb6/08PCrVN0KBG-tCY1Y7nJf.png)
 ### Source Data
 
 <!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
@@ -275,17 +178,6 @@ descripción de la fuente de información con los siguientes datos:
 | 13 | MedLexSp | 608374 | 21 MByte | MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. | https://digital.csic.es/handle/10261/270429 | es |
 
 
-## Dataset Creation
-
-### Curation Rationale
-
-<!-- Motivation for the creation of this dataset. -->
-
-[More Information Needed]
-
-### Source Data
-
-<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
 
 #### Data Collection and Processing
 
@@ -293,6 +185,11 @@ descripción de la fuente de información con los siguientes datos:
 
 <!-- Enlazar aquí los scripts y notebooks utilizados para generar el corpus. -->
 
+ - En el caso de [BioMistral/BioInstructQA](https://huggingface.co/datasets/BioMistral/BioInstructQA) se utilizó la información en idioma español. Para más información consultar el artículo [BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains](https://arxiv.org/pdf/2402.10373.pdf?trk=public_post_comment-text).
+ - Para [Cantemist](https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb) se hizo una búsqueda del código asociado a la patología y se estableció como tópico.
+ - En [CARES](https://huggingface.co/datasets/chizhikchi/CARES) se busco el tipo asociado en la tabla de códigos establecido.
+   
+
 [More Information Needed]
 
 #### Who are the source data producers?
@@ -301,9 +198,6 @@ descripción de la fuente de información con los siguientes datos:
 
 [More Information Needed]
 
-### Annotations [optional]
-
-<!-- If the dataset contains annotations which are not part of the initial data collection, use this section to describe them. -->
 
 #### Annotation process
 
@@ -323,7 +217,10 @@ descripción de la fuente de información con los siguientes datos:
 
 <!-- State whether the dataset contains data that might be considered personal, sensitive, or private (e.g., data that reveals addresses, uniquely identifiable names or aliases, racial or ethnic origins, sexual orientations, religious beliefs, political opinions, financial or health data, etc.). If efforts were made to anonymize the data, describe the anonymization process. -->
 
-[More Information Needed]
+En el proceso de construcción se tuvo en cuenta que no se incluyeran datos sensibles de los usuarios en ninguno de los casos (p.ej.; casos clinicos).
+
+<!-- In the construction process, it was taken into account that sensitive user data was not included in any of the cases (e.g., clinical cases). -->
+
 
 ## Bias, Risks, and Limitations
 
@@ -331,7 +228,16 @@ descripción de la fuente de información con los siguientes datos:
 
 <!-- Aquí podéis mencionar los posibles sesgos heredados según el origen de los datos y de las personas que lo han anotado, hablar del balance de las categorías representadas, los esfuerzos que habéis hecho para intentar mitigar sesgos y riesgos. -->
 
-[More Information Needed]
+Se sugiere tener en cuenta el alcance de las licencia de cada una de las fuentes (e.d., revisar el campo source y Licencia de la tabla anterior).
+
+En el caso de necesitar filtrar por fuente de datos u otro criterio usted puede auxiliarse de las propiedades de la estructura de datos `Dataset` del marco de trabajo
+Hugginface. En el siguiente ejemplo de código se obtienen del conjunto de datos las entradas que tienen un tipo de tópico sobre diagnóstico medico o un tópico médico:
+
+
+` 
+  spanishMedicaLllmDataset = load_dataset(SPANISH_MEDICA_LLM_DATASET, split="train")
+  spanishMedicaLllmDataset = spanishMedicaLllmDataset.filter(lambda example: example["topic_type"] in ['medical_diagnostic' | 'medical_topic'])
+`
 
 ### Recommendations
 
@@ -341,12 +247,23 @@ Example:
 
 Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations. -->
 
-[More Information Needed]
+Los usuarios deben ser conscientes de los riesgos, sesgos y limitaciones del conjunto de datos.
+
+Se sugiere tener en cuenta las filas donde el tipo del topic (e.d., campo topic_type) tenga valores `medical_topic`, 
+`medical_diagnostic`, `answer`, `natural_medicine_topic` para un autojuste del modelo y en el caso de que el texto se `open_text` 
+un pre-entranmiento inicial del modelo LLM.
+
+<!--  
+   In case of using this dataset for the LLM training or finetuning for natural language generating with a production 
+   environment target, we do not recommend the use of these results without a rigorous medical 
+   specialists evaluation and evaluation with higth performances values.
+-->   
 
 ## License
 
 <!-- Indicar bajo qué licencia se libera el dataset explicando, si no es apache 2.0, a qué se debe la licencia más restrictiva (i.e. herencia de los datos utilizados). -->
 
+Apache License 2.0
 ## Citation
 
 <!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->