Issue while matching a query with its correct document
#1
by
aaryan200
- opened
Hi,
I wanted to know how to find the correct document corresponding to a query given in queries.jsonl?
Here's what I have done:
- Read the
queries.jsonlandcorpus.jsonlfiles. - Found that the
queries.jsonlfile contains a column named_idwhich contains integers. - When I tried to match the
_idgiven in thequeries.jsonlfile with the index of the corpus file, I found that the two texts have no relevance at all.
Here's my code:
QUERIES = 'data/queries.jsonl'
CORPUS = 'data/corpus.jsonl'
df_query = pd.read_json(QUERIES, lines=True)
df_corpus = pd.read_json(CORPUS, lines=True)
idx = 5
query = df_query.loc[idx, 'text']
print(f"Query {idx}:")
print(f"{query}")
doc_idx = df_query.loc[idx, '_id'] # I have also tried with df_query.loc[idx, '_id'] - 1 (assuming that the index starts from 1), but even that doesn't work
print(f"Document index: {doc_idx}")
doc = df_corpus.loc[doc_idx, 'text']
print("Document:")
print(doc)
Output:
Query 5:
क्या पशुओं का उपयोग वैज्ञानिक या वाणिज्यिक परीक्षण के लिए किया जाना चाहिए?
Document index: 15
Document:
"लेकिन हम देखते हैं कि पॉल के कहने के बाद कि टिमोथी को" सभी "लोगों के लिए प्रार्थना करनी चाहिए जिसे हम आयत 2 में देखते हैं जिसे पॉल निर्दिष्ट करता है, सीमाएँ, स्पष्ट करता है, 'सभी' शब्द के अपने उपयोग को संकीर्ण करता है," शास्त्र में इसका कोई संकेत नहीं है। यह श्लोक 1 में "सभी पुरुषों के लिए" कहता है और केवल श्लोक 2 ...
Please help. Thank you
Hi @aaryan200 Please refer to qrels/test.tsv to find the relevancy mapping between the queries and the documents in the corpus. Please refer to the code snippet below.
import pandas as pd
from IPython.display import display, Markdown
corpus=pd.read_json('corpus.jsonl',lines=True)
queries=pd.read_json('queries.jsonl',lines=True)
qrels=pd.read_csv('qrels/test.tsv',sep='\t')
filtered_qrels = qrels[(qrels['query-id'] == 22) & (qrels['score'] > 0)]
print(filtered_qrels)
display(Markdown(queries[queries['_id']==22]['text'].values[0]))
# क्या दो-राज्य समाधान इजरायल-फिलिस्तीनी संघर्ष का स्वीकार्य समाधान है?
display(Markdown(corpus[corpus['_id']=='8d325e50-2019-04-15T20:22:20Z-00007-000']['text'].values[0])) # Here '_id' corresponds to one of the 'corpus-id's obtained from the filtered_qrels.
# फिलिस्तीनी और इजरायली निकट भविष्य में किसी भी समय एक ही राज्य में शांति से एक साथ नहीं रह सकेंगे। यह विचार कि फिलिस्तीनी और इजरायली एक दूसरे के प्रति सहिष्णुता और समावेश के लोकतांत्रिक सिद्धांतों को ध्यान में रखते हुए एक राज्य में शांति और सद्भाव के साथ रह सकते हैं, बस भोलापन है। इन लोगों के बीच लगभग एक सदी के प्रत्यक्ष संघर्ष ने इस विचार को असंभव बना दिया है। हालांकि आने वाली शताब्दियों में यह बदल सकता है, लेकिन इन सरल विचारों के आधार पर अब एक-राज्य नीति अपनाना अस्वीकार्य है। इजरायल के राष्ट्रपति शिमोन पेरेस ने तर्क दिया हैः "एक एकल बहुराष्ट्रीय देश की स्थापना एक कमजोर रास्ता है जो शांति के लिए अच्छा संकेत नहीं है, बल्कि संघर्ष के निरंतरता को लागू करता है। रक्तपात और अस्थिरता से तबाह लेबनान, इस प्रकृति के अवांछनीय दलदल के कई उदाहरणों में से केवल एक का प्रतिनिधित्व करता है। "(1) इस रुख का दुनिया भर के नेताओं और अधिकारियों द्वारा समर्थन किया गया हैः अमेरिकी विशेष दूत जॉर्ज मिशेल ने कहा है" इजरायल-फिलिस्तीनी संघर्ष के मामले में, हम मानते हैं कि दो-राज्य समाधान, शांति से साथ रहने वाले दो राज्य, इस संघर्ष को हल करने का सबसे अच्छा और एकमात्र तरीका है। "(2) पोप बेनेडिक्ट XVI ने इसी तरह इजरायल के नेतृत्व से फिलिस्तीनियों के साथ शांति के लिए दो-राज्य समाधान को अपनाने का आह्वान किया हैः" मैं उन सभी लोगों से अनुरोध करता हूं जो बकाया कठिनाइयों के न्यायसंगत समाधान की तलाश में हर संभव मार्ग का पता लगाने के लिए जिम्मेदार हैं, ताकि दोनों लोग अपनी मातृभूमि में, सुरक्षित सीमाओं के भीतर और अंतरराष्ट्रीय स्तर पर मान्यता प्राप्त शांति से रह सकें। "(3) यहां तक कि कर्नल गद्दाफी ने भी तर्क दिया कि (1) दो-राज्य समाधान को शांति के लिए सबसे अच्छा माना गया है क्योंकि यह दोनों लोगों की अपने स्वयं के राज्य के लिए लोकतांत्रिक इच्छा का सम्मान करता है। जैसा कि पेरेस का तर्क है, "यहूदी लोग अपनी सही, ऐतिहासिक मातृभूमि में शांति से रहना चाहते हैं और इसके हकदार हैं। फिलिस्तीनी लोग अपनी भूमि, अपनी राजनीतिक संस्थाएं और आत्मनिर्णय का अधिकार चाहते हैं और इसके हकदार हैं। यह महत्वपूर्ण है कि यह उद्देश्य यहूदियों और अरबों के बीच सह-अस्तित्व की संभावना पर आधारित हो, जो अर्थव्यवस्था, पर्यटन, पर्यावरण और रक्षा जैसे क्षेत्रों में सहयोग में बदल जाता है। यह सब तभी संभव होगा जब प्रत्येक व्यक्ति को अपना राज्य और सीमाएँ दी जाएँ, ताकि उनके नागरिक अपने धर्मों के अनुसार प्रार्थना कर सकें, अपनी संस्कृतियों को विकसित कर सकें, अपनी भाषा बोल सकें और अपनी विरासत की रक्षा कर सकें। "(1) क्योंकि केवल दो-राज्य समाधान ही इस शांतिपूर्ण सह-अस्तित्व और विकास की अनुमति देता है, इसलिए शांति के लिए दो-राज्य समाधान सबसे अच्छा है और इस प्रकार एक-राज्य समाधान की तुलना में अधिक उचित है।
ArkaAcharya
changed discussion status to
closed