import streamlit as st from transformers import pipeline, AutoModelForTokenClassification, AutoTokenizer import pandas as pd import spacy from spacy import displacy st.set_page_config(layout="wide") # Örnek metin listesi example_list = [ "Mustafa Kemal Atatürk 1919 yılında Samsun'a çıktı.", """Mustafa Kemal Atatürk, Türk asker, devlet adamı ve Türkiye Cumhuriyeti'nin kurucusudur. Birinci Dünya Savaşı sırasında Osmanlı ordusunda görev yapan Atatürk, Çanakkale Cephesi'nde miralaylığa, Sina ve Filistin Cephesi'nde ise Yıldırım Orduları komutanlığına atandı. Savaşın sonunda, Osmanlı Imparatorluğu'nun yenilgisini takiben Kurtuluş Savaşı ile simgelenen Türk Ulusal Hareketi'ne öncülük ve önderlik etti. Türk Kurtuluş Savaşı sürecinde Ankara Hükümeti'ni kurdu, Türk Orduları Başkomutanı olarak Sakarya Meydan Muharebesi'ndeki başarısından dolayı 19 Eylül 1921 tarihinde "Gazi" unvanını aldı ve mareşallik rütbesine yükseldi. Askeri ve siyasi eylemleriyle İtilaf Devletleri ve destekçilerine karşı zafer kazandı. Savaşın ardından Cumhuriyet Halk Partisi'ni Halk Fırkası adıyla kurdu ve ilk genel başkanı oldu. 29 Ekim 1923'te Cumhuriyetin ilanı akabinde Cumhurbaşkanı seçildi. 1938'deki ölümüne dek dört dönem bu görevi yürüterek Türkiye'de en uzun süre cumhurbaşkanlığı yapmış kişi oldu.""" ] # Uygulama başlığı st.title("NLP Toolkit") # Görev seçimi task_list = ['Metin Sınıflandırma', 'Metin Analizi', 'Duygu Analizi', 'Metin Oluşturma'] task = st.sidebar.selectbox("Görev Seç", task_list) # Model listesi ve model seçimi model_mapping = { 'Metin Sınıflandırma': 'dbmdz/bert-base-turkish-cased', 'Metin Analizi': 'akdeniz27/convbert-base-turkish-cased-ner', 'Duygu Analizi': 'akdeniz27/xlm-roberta-base-turkish-ner', 'Metin Oluşturma': 'xlm-roberta-large-finetuned-conll03-english' } model_checkpoint = model_mapping.get(task, 'akdeniz27/xlm-roberta-base-turkish-ner') # Aggregation Strategy aggregation = "simple" if model_checkpoint in ["akdeniz27/xlm-roberta-base-turkish-ner", "xlm-roberta-large-finetuned-conll03-english", "asahi417/tner-xlm-roberta-base-ontonotes5"] else "first" st.sidebar.write("For details of models: 'https://huggingface.co/WhiteAngelss/") st.sidebar.write("") # Metin giriş yöntemi st.subheader("Metin Giriş Yöntemi Seç") input_method = st.radio("", ('Örneklerden Seç', 'Metin Yaz veya Yapıştır', 'Dosya Yükle')) if input_method == 'Örneklerden Seç': selected_text = st.selectbox('Metin Seç', example_list, index=0, key=1) st.subheader("Seçilen Metin") input_text = st.text_area("Metin", selected_text, height=128, max_chars=None, key=2) elif input_method == "Metin Yaz veya Yapıştır": st.subheader("Metin") input_text = st.text_area('Metin Yaz veya Yapıştır', value="", height=128, max_chars=None, key=2) elif input_method == "Dosya Yükle": st.subheader("Metin") uploaded_file = st.file_uploader("Dosya Seç", type="txt") if uploaded_file is not None: input_text = str(uploaded_file.read(), "utf-8") else: input_text = "" @st.cache_resource def setModel(model_checkpoint, aggregation): model = AutoModelForTokenClassification.from_pretrained(model_checkpoint) tokenizer = AutoTokenizer.from_pretrained(model_checkpoint) return pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy=aggregation) @st.cache_resource def get_html(html: str): WRAPPER = """
{}
""" html = html.replace("\n", " ") return WRAPPER.format(html) @st.cache_resource def entity_comb(output): output_comb = [] for ind, entity in enumerate(output): if ind == 0: output_comb.append(entity) elif output[ind]["start"] == output[ind-1]["end"] and output[ind]["entity_group"] == output[ind-1]["entity_group"]: output_comb[-1]["word"] = output_comb[-1]["word"] + output[ind]["word"] output_comb[-1]["end"] = output[ind]["end"] else: output_comb.append(entity) return output_comb Run_Button = st.button("Run", key=None) if Run_Button and input_text != "": ner_pipeline = setModel(model_checkpoint, aggregation) output = ner_pipeline(input_text) output_comb = entity_comb(output) df = pd.DataFrame.from_dict(output_comb) cols_to_keep = ['word', 'entity_group', 'score', 'start', 'end'] df_final = df[cols_to_keep] st.subheader("Recognized Entities") st.dataframe(df_final) st.subheader("Spacy Style Display") spacy_display = {} spacy_display["ents"] = [] spacy_display["text"] = input_text spacy_display["title"] = None for entity in output_comb: label = entity["entity_group"] if label not in ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]: label = "UNKNOWN" spacy_display["ents"].append({"start": entity["start"], "end": entity["end"], "label": label}) html = displacy.render(spacy_display, style="ent", minify=True, manual=True, options={"ents": ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]}) style = "" st.write(f"{style}{get_html(html)}", unsafe_allow_html=True)