Update app.py

app.py

@@ -40,20 +40,8 @@ model = OpenAIModel(
     base_url='http://localhost:1234/v1',
     api_key='your-local-api-key',
 )
-model11 = OpenAIModel(
-    'mistral-7b-instruct-v0.3',
-    base_url='http://localhost:1234/v1',
-    api_key='your-local-api-key',
-)
-
-#DeepSeek Key: sk-694660c67c3947e4853019473f30240d https://api.deepseek.com
 # Model Pydantic untuk Sales Order
-class product1(BaseModel):
-    ds_productCode: Optional[str] = "" #str = Field(..., min_length=1, max_length=20)
-    ds_productName: str = Field(..., min_length=1, max_length=100)
-    ds_quantity: int = Field(..., ge=1)
-    ds_unitPrice: float = Field(..., ge=0)
-    ds_itemAmt: Optional[float] = 0
+system_prompt="Anda adalah asisten medis yang membantu mengekstrak informasi dari catatan klinis. Gunakan alat extract_entities untuk memproses teks."
 
 # 'if-token-present' means nothing will be sent (and the example will work) if you don't have logfire configured
 logfire.configure(send_to_logfire='if-token-present')
@@ -75,19 +63,17 @@ class SalesOrder(BaseModel):
     ds_shippingAddress: Optional[str] = ""
     ds_totalAmount:Optional[float] = 0
     #ds_paymentTerms: Optional[str] = ""
+class ClinicalNoteResult(BaseModel):
+    entities: list
+    message: str
 os.environ['GEMINI_API_KEY'] = 'AIzaSyAsVIHsPIIfDBTb2K6VNdNlMt05t8x3mtE'
-#agent= Agent('gemini-1.5-flash', result_type=SalesOrder)
 
 # # Create a system prompt to guide the model
-SYSTEM_PROMPT = """
-Anda adalah asisten yang ahli melakukan ekstrak data SalesOrder dari teks user. Format output yang diinginkan hanya berupa JSON saja sesuai class SalesOrder. Tidak usah ada penjelasan lain. Sekali lagi: Output hanya JSON saja. Untuk Nomor Sales Order pasangkan dengan key ds_salesOrderId, untuk Tanggal Sales pasangkan dengan key ds_salesDate, untuk Nama Customer pasangkan dengan Key ds_customerName, untuk Alamat Customer pasangkan dengan key ds_customerAddress, untuk Daftar Item Barang pasangkan dengan key ds_items, untuk Kode Barang pasangkan dengan key ds_productCode, untuk Nama Barang pasangkan dengan key ds_productName, untuk Quantity pasangkan dengan key ds_quantity, untuk Unit Price pasangkan dengan key ds_unitPrice, untuk Total Nilai Per Baris Barang pasangkan dengan key ds_itemAmt, untuk Ongkos Kirim pasangkan dengan key ds_shippingCost, untuk Alamat Pengiriman pasangkan dengan key ds_shippingAddress, untuk Total Nilai Sales Order pasangkan dengan key ds_totalAmount
-"""
-#agent3 = Agent(model=ollama_model, result_type=PetList, retries=3, system_prompt=SYSTEM_PROMPT)
-#agent3 = Agent(model=ollama_model, retries=3, system_prompt=SYSTEM_PROMPT)
+system_prompt="Anda adalah asisten medis yang membantu mengekstrak informasi dari catatan klinis. Gunakan alat extract_entities untuk memproses teks."
 
 
 #INI SAJA. SALAH SATU
-agent = Agent('gemini-1.5-flash', system_prompt=SYSTEM_PROMPT) # OK-Gemini
+agent = Agent('gemini-1.5-flash', system_prompt=system_prompt) # OK-Gemini
 #agent = Agent(model) # OK-Lokal 
 
 
@@ -449,12 +435,12 @@ async def post_chat(
         nn = len(prompt)
         prompt = prompt[1:nn]
         print(">>>", prompt, "<<<")
-        return StreamingResponse(ds_messages(prompt), media_type='text/plain')
+        return StreamingResponse(stream_messages(prompt), media_type='text/plain')
     elif prompt[0] != "@" :    
         #print("biasa")
-        return StreamingResponse(ds_messages(prompt), media_type='text/plain')
+        return StreamingResponse(stream_messages(prompt), media_type='text/plain')
     print("** selesai **")
-    return StreamingResponse(ds_messages(prompt), media_type='text/plain')
+    return StreamingResponse(stream_messages(prompt), media_type='text/plain')
 
 P = ParamSpec('P')
 R = TypeVar('R')