app.py

import gradio as gr
import os
from transformers import pipeline, set_seed, AutoTokenizer

set_seed(42)

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
generator = pipeline('text-generation', model='gpt2', return_full_text=False, tokenizer=tokenizer)


def Bemenet(bemenet):
    return generator(os.environ['SECRET_PROMPT'] + " " + bemenet, max_length=100, num_return_sequences=2)[1]['generated_text']


interface = gr.Interface(fn=Bemenet,
                        title="GPT-2",
                        description="A GPT-2 egy előtanított nyelvi  modell, ami nem párbeszédre lett optimalizálva. Használatakor figyelj erre, érdemesebb olyan bemenetekkel próbálkozni ami az eredeti tanítási módot használják ki.",
                        inputs=gr.Textbox(),
                        outputs=gr.Textbox())

interface.launch()