README.md

---
license: cc-by-nc-sa-4.0
task_categories:
- question-answering
language:
- es
tags:
- computational linguistics
- spanish
- NLP
---
# Dataset Card de Lingcomp_QA

<!-- Provide a quick summary of the dataset. -->
Este es un dataset creado a partir de blogs de internet y páginas en abierto sobre lingüística computacional. Contiene algunos temas de estadística, lingüística e informática 
(especialmente cuestiones relacionadas con Python, el principal lenguaje de programación para el procesamiento del lenguaje natural).

## Detalles del dataset

### Descripción del dataset

<!-- Provide a longer summary of what this dataset is. -->
Este dataset tiene la intención de ser educativo, explicando ciertos conceptos o respondiendo preguntas relacionadas con la evolución de la disciplina o de las funciones y aspectos
básicos de Python y algunos paquetes como Wordnet o NLTK. También responde algunas cuestiones de lingüística de corpus y, por tanto, de estadística, especialmente cuestiones
de explicación de conceptos. Actualmente tiene 1004 pares de pregunta-respuesta.


- **Recogido por:**
(Universidad de Cádiz, Instituto de Lingüística Aplicada)
 - [Jorge Zamora Rey] (https://huggingface.co/reddrex)
 - [Isabel Moyano Moreno] (https://huggingface.co/issyinthesky)
 - [Mario Crespo Miguel] (https://huggingface.co/MCMiguel)
 
- **Language(s) (NLP):** Spanish
- **License:** Creative Commons Attribution Non Commercial Share Alike 4.0

### Formato del dataset
El dataset tiene la siguiente forma:

```json
[
 {
 "pregunta": "¿Qué implica la lingüística computacional teórica?",
 "respuesta": "La lingüística computacional teórica incluye el desarrollo de teorías formales de gramática y semántica, basadas en lógicas formales o enfoques simbólicos. Las áreas de estudio teórico en este ámbito incluyen la complejidad computacional y la semántica computacional."
 },
 {
 "pregunta": "¿Qué es una gramática libre de contexto?",
 "respuesta": "Una gramática libre de contexto es una gramática formal en la que cada regla de producción es de la forma V → w, donde V es un símbolo no terminal y w es una cadena de terminales y/o no terminales."
 },
 {
 "pregunta": "¿Qué es el algoritmo CYK y cuál es su propósito?",
 "respuesta": "El algoritmo de Cocke-Younger-Kasami (CYK) es un algoritmo de análisis sintáctico ascendente que determina si una cadena puede ser generada por una gramática libre de contexto y, en caso afirmativo, cómo puede ser generada. Su propósito es realizar un análisis sintáctico de la cadena para determinar su estructura gramatical."
 },
 {...}
]
```

### Uso del dataset
Nuestra intención principal de cara al futuro es aumentarlo con otras fuentes de información y emplearlo para crear un agente conversacional que ayude a los alumnos
de las asignaturas de Lingüística computacional e Ingeniería del Lenguaje del grado de Lingüística y lenguas aplicadas, además de otras personas interesadas en este ámbito,
aunque nuestro foco principal son lingüistas, toda persona interesada es bienvenida.

### Links del dataset

<!-- Provide the basic links for the dataset. -->
- **Repositorio:** https://github.com/reddrex/lingcomp_QA/tree/main
<!-- Paper [optional]:** [More Information Needed] -->

## Creación del dataset
Para este dataset hemos empleado los apuntes de la asignatura de Lingüística computacional del grado de Lingüística y lenguas aplicadas de la universidad de Cádiz, y algunas
cuestiones de la asignatura de Ingeniería del lenguaje. Además, hemos añadido la información que ha aparecido en páginas web en español, especialmente blogs, encontradas a través de Bootcat
al realizar una búsqueda de términos de la lingüística computacional. Estos términos los hemos elegido de los principales temas tratados en libros específicos como el de Jurafsky y Martin de Speech and Language Processing.

Herramientas: Bootcat para la extracción de .txt de webs, Sublime text para la organización en preguntas y respuestas en JSON y la limpieza con regex.

### Fuentes de información

<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
Está conformado por preguntas y respuestas formuladas a partir de los apuntes de las asignaturas de las asignaturas mencionadas anteriormente, artículos de wikipedia y blogs
que tratan información relacionada a términos de la lingüística computacional , o explican cómo utilizar ciertos paquetes o programar en Python.

La información recogida está relacionada mayoritariamente con los siguientes conceptos:
- Algoritmos y formalismos
- Lenguaje de programación
- CPU/GPU
- Entornos como colab o jupyter
- Python: tipos de datos, funciones built-in, métodos, programación orientada a objetos, comprensión de listas, etc.
- NLTK
- SpaCy
- Historia y evolución del PLN
- PLN/Lingüística computacional (sintaxis y semántica computacional, diferencias, conceptos...)
- Lingüística
- Recursos como FrameNet, WordNet, Treebank, Corpus Brown, ontologías
- Lingüística de corpus: concordancias, colocaciones, cuestiones de estadística (chi-cuadrado, log-likelihood, datos, muestreo...)

## Sesgos, Riesgos, y Limitaciones

<!-- This section is meant to convey both technical and sociotechnical limitations. -->
Ha habido cierto límite de tiempo en el que es especialmente difícil recabar tanta información como la que puede haber en un campo como la lingüística computacional, así que
nos hemos limitado a cubrir ciertos temas básicos relacionados con este ámbito. Además, otro problema es la escasez de información en abierto disponible para crear un corpus,
ya que la mayoría de información que hemos encontrado en relación a estos temas pertenecía a artículos científicos. 

<!-- ## Citation -->

<!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->