emdemor's picture
Update README.md
5cc57c4 verified
---
license: cc
task_categories:
- question-answering
- text2text-generation
- sentence-similarity
language:
- pt
tags:
- q&a
- brazil
- question
- embedding
- brasil
- portuguese
- portugues
- perguntas
pretty_name: Brazilian Questions and Answers
---
# Perguntas e Respostas Brasileiras
Esse dataset é uma compilação das perguntas e respostas em português disponíveis em [clips/mqa](https://huggingface.co/datasets/clips/mqa).
Foi realizada uma limpeza e normalização dos dados, mantendo apenas domínios mais relevantes, removendo texto danosos e inadequados.
O código para a limpeza dos dados pode ser acessado [aqui](https://github.com/emdemor/opensource-llm-recipes/blob/master/project/09-prepare-dataset-for-embedding-finetune.ipynb)
O principal objetivo deste dataset é ajudar modelos de linguagem natural e modelos de embedding em português a gerar textos e cálculos de similaridade
mais precisos e contextualizados.
### Detalhes do Dataset
* Total de exemplos: 4140677 linhas
* Colunas
* `id`
* `bucket`
* `domain`
* `text`
* `question`
* `answer
## Projetos Originais
```
@misc{clips-2022-mqa,
title = {Multilingual corpus of Questions and Answers (MQA)},
author = {clips},
year = {2022},
url = {https://huggingface.co/datasets/clips/mqa},
}
```