metadata
license: llama2
datasets:
- ju-resplande/rebel-pt
- paulofinardi/OIG_small_chip2_portuguese_brasil
- Guilherme34/Cabrita-lora-ptbr
- dominguesm/Canarim-Instruct-PTBR-Dataset
language:
- pt
- en
pipeline_tag: text-generation
library_name: transformers
tags:
- llama
- peft
- portuguese
- instruct
model-index:
- name: boana-7b-instruct
results:
- task:
type: text-generation
dataset:
type: Muennighoff/xwinograd
name: XWinograd (pt)
config: pt
split: test
metrics:
- type: Accuracy
value: 50.19
PT - README
Boana-7B-Instruct
Boana-7B-Instruct é um LLM treinado em dados da língua portuguesa. O modelo é baseado no LLaMA2-7B, uma versão de 7B de parâmetros do LLaMA-2. O projeto Boana tem como objetivo oferecer opções de LLM em língua portuguesa, ao mesmo tempo que disponibiliza um modelo menos complexo para que, dessa forma, usuários com menos poder computacional possam usufruir das LLMs.
Em apoio aos países de língua portuguesa.
Descrição do Modelo
- Desenvolvido por: Leonardo Souza
- Tipo do modelo: LLaMA-Based
- Licença: Academic Free License v3.0
- Fine-tunado do modelo: LLaMA2-7B
Estilo do Prompt
Usamos o mesmo prompt usado no fine-tune do modelo Cabrita. Você pode saber mais no repositório oficial no GitHub.
Como Usar
from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
def GeneratePrompt(input, instruction):
if input!='' and instruction!=0:
return f'''Abaixo está uma instrução que descreve uma tarefa, juntamente com uma entrada que fornece mais contexto. Escreva uma resposta que complete adequadamente o pedido.
### Instrução:
{instruction}
### Entrada:
{input}'''
else:
return f'''Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que complete adequadamente o pedido.
### Instrução:
{instruction}
### '''
model_config = GenerationConfig.from_model_config(model.generation_config)
model.generation_config.temperature = 0.9 # Você pode variar esse valor entre 0 e 1.
model = AutoModelForCausalLM.from_pretrained('lrds-code/boana-7b-instruct')
tokenizer = AutoTokenizer.from_pretrained('lrds-code/boana-7b-instruct')
instruction = 'Como desenvolver habilidades de programação em python?'
text = GeneratePrompt(input='', instruction=instruction)
inputs = tokenizer(text, return_tensors='pt')
outputs = model.generate(input_ids=inputs['input_ids'], attention_mask=inputs['attention_mask'], generation_config=model_config, repetition_penalty=1.1, do_sample=False
# repetition_penalty:
# Observamos que em alguns casos de entrada o modelo repetiu excessivamente algumas palavras.
# Esse parâmetro é usado para tentar reduzir esse comportamento.
# Atribuir um valor muito alto para esse parâmetro pode fazer com que o modelo busque excessivamente por outras palavras e, sendo assim, talvez usar palavras da língua inglesa na saída.
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
## Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que complete adequadamente o pedido.
## ### Instrução:
## Como desenvolver habilidades de programação em python?
## ### Resposta:
## Aqui estão algumas dicas para aprender Python:
## 1. Comece com os fundamentos. Aprenda as principais palavras-chave e conceitos básicos, como variáveis, tipos de dados, funções, módulos, etc.
## 2. Pratique com exercícios. Experimentar com diferentes tipos de problemas pode ajudá-lo a entender melhor o idioma.
## 3. Leia documentação. Aprenda sobre as funcionalidades específicas do Python e como elas são usadas.
## 4. Use recursos on-line. Há muitos recursos disponíveis online que podem ajudá-lo a aprender Python, como cursos, tutoriales, livros, etc.
## 5. Participe de comunidades. Encontre um grupo de pessoas que compartilham seus interesses e se conectem com eles.
## 6. Faça perguntas. Se você tiver alguma dúvida ou precisar de ajuda, não hesite em perguntar.
## 7. Aprenda com outros. Aprenda com outros programadores e compartilhe suas próprias ideias.
## 8. Desenvolva projetos. Crie algo que possa ser útil para você ou para outras pessoas.
## 9. Lembre-se de que aprender é um processo contínuo. Não se esqueça de continuar praticando e aprendendo novas coisas.
## 10. Certifique-se de ter paciência. Aprender um idioma é um processo lento e exigente, mas valerá a pena.
EN - README
Boana-7B-Instruct
Boana-7B-Instruct is an LLM trained on portuguese language data. The model is based on LLaMA2-7B, a 7B parameter version of LLaMA-2. The LLM Boana project aims to provide more LLM options in portuguese, while also providing less complex models so that users with less computational power can take advantage of the LLMs.
In support of portuguese-speaking countries.
Model Description
- Developed by: Leonardo Souza
- Model type: LLaMA-Based
- License: Academic Free License v3.0
- Finetuned from model: LLaMA2-7B
Prompt Style
We used the same prompt used in the fine-tune of the Cabrita model. You can find out more in the official repository on GitHub.
How to Use
from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
def GeneratePrompt(input, instruction):
if input!='' and instruction!=0:
return f'''Abaixo está uma instrução que descreve uma tarefa, juntamente com uma entrada que fornece mais contexto. Escreva uma resposta que complete adequadamente o pedido.
### Instrução:
{instruction}
### Entrada:
{input}'''
else:
return f'''Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que complete adequadamente o pedido.
### Instrução:
{instruction}
### '''
model_config = GenerationConfig.from_model_config(model.generation_config)
model.generation_config.temperature = 0.9 # You can vary this value between 0 and 1.
model = AutoModelForCausalLM.from_pretrained('lrds-code/boana-7b-instruct')
tokenizer = AutoTokenizer.from_pretrained('lrds-code/boana-7b-instruct')
instruction = 'Como desenvolver habilidades de programação em python?'
text = GeneratePrompt(input='', instruction=instruction)
inputs = tokenizer(text, return_tensors='pt')
outputs = model.generate(input_ids=inputs['input_ids'], attention_mask=inputs['attention_mask'], generation_config=model_config, repetition_penalty=1.1, do_sample=False)
# repetition_penalty:
# We observed that in some input cases the model began to repeat words excessively in its output.
# This parameter is used to try to reduce this behavior.
# Setting a very high value for this parameter can cause the model to search excessively for new words and, therefore, may use English words in the output.
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
## Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que complete adequadamente o pedido.
## ### Instrução:
## Como desenvolver habilidades de programação em python?
## ### Resposta:
## Aqui estão algumas dicas para aprender Python:
## 1. Comece com os fundamentos. Aprenda as principais palavras-chave e conceitos básicos, como variáveis, tipos de dados, funções, módulos, etc.
## 2. Pratique com exercícios. Experimentar com diferentes tipos de problemas pode ajudá-lo a entender melhor o idioma.
## 3. Leia documentação. Aprenda sobre as funcionalidades específicas do Python e como elas são usadas.
## 4. Use recursos on-line. Há muitos recursos disponíveis online que podem ajudá-lo a aprender Python, como cursos, tutoriales, livros, etc.
## 5. Participe de comunidades. Encontre um grupo de pessoas que compartilham seus interesses e se conectem com eles.
## 6. Faça perguntas. Se você tiver alguma dúvida ou precisar de ajuda, não hesite em perguntar.
## 7. Aprenda com outros. Aprenda com outros programadores e compartilhe suas próprias ideias.
## 8. Desenvolva projetos. Crie algo que possa ser útil para você ou para outras pessoas.
## 9. Lembre-se de que aprender é um processo contínuo. Não se esqueça de continuar praticando e aprendendo novas coisas.
## 10. Certifique-se de ter paciência. Aprender um idioma é um processo lento e exigente, mas valerá a pena.