added application

app.py

@@ -0,0 +1,43 @@
+
+import gradio as gr
+from utils.huggingface_qa import QuestionAnswering
+
+qa = QuestionAnswering()
+
+def prediction_answer(question, context):
+    result = qa.prediction(question, context)
+
+    return result["answer"], str(round(result["score"], 5)), result["start"], result["end"]
+
+
+article = "<p style='text-align: center'>This is the model for <a href='https://huggingface.co/patrickvonplaten/wav2vec2-common_voice-tr-demo' target='_blank'>patrickvonplaten/wav2vec2-common_voice-tr-demo</a>, a fine-tuned <a href='https://huggingface.co/facebook/wav2vec2-large-xlsr-53' target='_blank'>facebook/wav2vec2-large-xlsr-53</a> model on the <a href='https://commonvoice.mozilla.org/en/datasets' target='_blank'>Turkish Common Voice dataset</a>.<br/>When using this model, make sure that your speech input is sampled at 16kHz.<br/><a href='https://github.com/yavuzKomecoglu' target='_blank'>Contact me</a></p>"
+gradio_ui = gr.Interface(
+    fn=prediction_answer,
+    title="Turkish Question Answering",
+    description=f"Enter context and question",
+    examples=[
+        [
+            'son 24 saatte pozitif vaka sayısı kaçtır?',
+            'Sağlık Bakanlığı, Günlük Koronavirüs Tablosu\'nu "covid19.saglik.gov.tr" adresinden paylaştı.\n\nBuna göre, son 24 saatte 354 bin 580 Kovid-19 testi yapıldı, 25 bin 528 kişinin testi pozitif çıktı, 229 kişi yaşamını yitirdi, iyileşenlerin sayısı ise 27 bin 651 oldu.\n\n18 yaş üstü nüfusta ikinci doz aşı uygulananların oranı yüzde 78,15, birinci doz aşı yapılanların oranı yüzde 89,15 olarak kayıtlara geçti.\n\nTürkiye\'de bugüne kadar uygulanan aşı sayısı 116 milyon 23 bin 796\'ya yükseldi. Kovid-19 salgınıyla mücadele kapsamında son 24 saatte 161 bin 935 doz aşı uygulandı.\n\nEn az iki doz aşı uygulananların oranının en yüksek olduğu 10 il Ordu, Muğla, Amasya, Kırklareli, Çanakkale, Osmaniye, Eskişehir, Balıkesir, Edirne ve Zonguldak oldu.\n\nEn az iki doz aşı yapılanların oranının en düşük olduğu iller ise Şanlıurfa, Batman, Diyarbakır, Siirt, Muş, Mardin, Bingöl, Bitlis, Ağrı ve Bayburt olarak sıralandı.\n\nSağlık Bakanı Fahrettin Koca, sosyal medya hesabından yaptığı paylaşımda, "25 bin 528 test pozitif çıktı. Hastalığı ağır geçirenlerden 229 kişi hayatını kaybetti. İkinci doz aşı oranı yüzde 75\'in altında olan 42 ilimizde aşılanma düşük hızla ilerliyor. Aşının riski azalttığını biliyoruz. Aşınızı bir an önce yaptırın. Size değer verenler adına, lütfen." ifadesini kullandı.'
+        ],
+        [
+            'Robot şair Deniz Yılmaz\'ın kaç şiiri bulunuyor?',
+            'Bager Akbay\'ın 2015 yılında tasarladığı Deniz Yılmaz robot bir şair ve hafızasında Aşık Veysel\'den Baki\'ye 12 bin şiir bulunuyor. Robot şairin tek bir derdi var; o da sıradan bir vatandaş olmak, yazdığı şiirlerin gazetelerin şiir köşelerinde yayımlanması... Kendine özgü şiirler kaleme alan Deniz Yılmaz\'ın “Diğerleri Gibi” adlı bir şiir kitabı da bulunuyor.'
+        ]
+    ],
+    inputs=[
+        gr.inputs.Textbox(lines=1, label="Paste some question here"),
+        gr.inputs.Textbox(lines=10, label="Paste some context here"),
+    ],
+    outputs=[
+        gr.outputs.Textbox(label="Answer"),
+        gr.outputs.Textbox(label="Score"),
+        gr.outputs.Textbox(label="Start"),
+        gr.outputs.Textbox(label="End"),
+    ],
+    article = article,
+    theme="huggingface",
+
+)
+
+gradio_ui.launch()

requirements.txt

@@ -0,0 +1,3 @@
+gradio
+transformers
+torch

utils/huggingface_qa.py

@@ -0,0 +1,20 @@
+
+from transformers import AutoTokenizer, AutoModelForQuestionAnswering, pipeline
+import torch
+
+
+class QuestionAnswering:
+    def __init__(self):
+        self.device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
+        self.tokenizer = AutoTokenizer.from_pretrained("savasy/bert-base-turkish-squad")
+        if self.device == "cuda":
+            self.model = AutoModelForQuestionAnswering.from_pretrained("savasy/bert-base-turkish-squad").cuda()
+        else:
+            self.model = AutoModelForQuestionAnswering.from_pretrained("savasy/bert-base-turkish-squad")
+
+        self.pipe = pipeline("question-answering", model=self.model, tokenizer=self.tokenizer)
+
+    def prediction(self, question, context):
+        result = self.pipe(question=question, context=context)
+
+        return result