---
language:
- en
license: apache-2.0
library_name: peft
tags:
- text-generation-inference
- transformers
- unsloth
- gemma
- trl
base_model: google/gemma-7b
---

## Uploaded  model

- **Developed by:** Mervin Praison
- **License:** apache-2.0
- **Finetuned from model :** google/gemma-7b

## How to use?

```
from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM
import torch
torch.set_default_device("cuda")

config = PeftConfig.from_pretrained("mervinpraison/tamil-gemma-7b-v1.0")
model = AutoModelForCausalLM.from_pretrained("google/gemma-7b")
model = PeftModel.from_pretrained(model, "mervinpraison/tamil-gemma-7b-v1.0")

from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("google/gemma-7b")
query_to_llm = "ஆரோக்கியமாக இருப்பதற்கான இரண்டு வழிகள்"

# Generate an answer from the model
inputs = tokenizer.encode(query_to_llm, return_tensors="pt")
outputs = model.generate(inputs, max_length=200)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(response)
```
## Output

```
ஆரோக்கியமாக இருப்பதற்கான இரண்டு வழிகள்:

1. உடற்பயிற்சி: உடல் செயல்பாடு உங்கள் இதய ஆரோக்கியத்தை மேம்படுத்தவும், உங்கள் தசைகளை வலுப்படுத்தவும், உங்கள் மனநிலையை மேம்படுத்தவும் உதவும். வாரத்திற்கு குறைந்தது 150 நிமிடங்கள் மிதமான-தீவிர ஏரோபிக் செயல்பாடு அல்லது 75 நிமிட தீவிர-தீவிர ஏரோபிக் செயல்பாடுகளை இலக்காகக் கொள்ளுங்கள்.

2. சீரான உணவை உண்ணுங்கள்: பழங்கள், காய்கறிகள், முழு தானியங்கள், மெலிந்த புரதங்கள் மற்றும் ஆரோக்கிய
```

- PEFT 0.9.0