|
--- |
|
language: |
|
- en |
|
license: apache-2.0 |
|
library_name: peft |
|
tags: |
|
- text-generation-inference |
|
- transformers |
|
- unsloth |
|
- gemma |
|
- trl |
|
base_model: google/gemma-7b |
|
--- |
|
|
|
## Uploaded model |
|
|
|
- **Developed by:** Mervin Praison |
|
- **License:** apache-2.0 |
|
- **Finetuned from model :** google/gemma-7b |
|
|
|
## How to use? |
|
|
|
``` |
|
from peft import PeftModel, PeftConfig |
|
from transformers import AutoModelForCausalLM |
|
import torch |
|
torch.set_default_device("cuda") |
|
|
|
config = PeftConfig.from_pretrained("mervinpraison/tamil-gemma-7b-v1.0") |
|
model = AutoModelForCausalLM.from_pretrained("google/gemma-7b") |
|
model = PeftModel.from_pretrained(model, "mervinpraison/tamil-gemma-7b-v1.0") |
|
|
|
from transformers import AutoModelForCausalLM, AutoTokenizer |
|
tokenizer = AutoTokenizer.from_pretrained("google/gemma-7b") |
|
query_to_llm = "ஆரோக்கியமாக இருப்பதற்கான இரண்டு வழிகள்" |
|
|
|
# Generate an answer from the model |
|
inputs = tokenizer.encode(query_to_llm, return_tensors="pt") |
|
outputs = model.generate(inputs, max_length=200) |
|
response = tokenizer.decode(outputs[0], skip_special_tokens=True) |
|
|
|
print(response) |
|
``` |
|
## Output |
|
|
|
``` |
|
ஆரோக்கியமாக இருப்பதற்கான இரண்டு வழிகள்: |
|
|
|
1. உடற்பயிற்சி: உடல் செயல்பாடு உங்கள் இதய ஆரோக்கியத்தை மேம்படுத்தவும், உங்கள் தசைகளை வலுப்படுத்தவும், உங்கள் மனநிலையை மேம்படுத்தவும் உதவும். வாரத்திற்கு குறைந்தது 150 நிமிடங்கள் மிதமான-தீவிர ஏரோபிக் செயல்பாடு அல்லது 75 நிமிட தீவிர-தீவிர ஏரோபிக் செயல்பாடுகளை இலக்காகக் கொள்ளுங்கள். |
|
|
|
2. சீரான உணவை உண்ணுங்கள்: பழங்கள், காய்கறிகள், முழு தானியங்கள், மெலிந்த புரதங்கள் மற்றும் ஆரோக்கிய |
|
``` |
|
|
|
- PEFT 0.9.0 |
