Datasets:

Modalities:
Text
Formats:
parquet
Libraries:
Datasets
pandas
text
stringlengths
25
65
label
int64
0
1
Amo i pantaloni, eccetto le scarpe.
0
Amo gli abeti, e più specificamente l' erba.
0
Amo l' erba, e più specificamente gli abeti.
0
Amo gli abeti, e più specificamente gli alberi.
0
Amo gli alberi, e più specificamente gli abeti.
1
Amo gli abeti, e più specificamente gli animali.
0
Amo gli animali, e più specificamente gli abeti.
0
Amo le scarpe, eccetto i pantaloni.
0
Amo gli abeti, e più specificamente i cespugli.
0
Amo i cespugli, e più specificamente gli abeti.
0
Amo gli abeti, e più specificamente gli arbusti.
0
Amo gli arbusti, e più specificamente gli abeti.
0
Amo i pantaloni, eccetto i vestiti.
0
Amo i vestiti, eccetto i pantaloni.
1
Amo i pini, e più specificamente l' erba.
0
Amo l' erba, e più specificamente i pini.
0
Amo i pini, e più specificamente gli alberi.
0
Amo gli alberi, e più specificamente i pini.
1
Amo i pini, e più specificamente gli animali.
0
Amo gli animali, e più specificamente i pini.
0
Amo i pantaloni, eccetto i gioielli.
0
Amo i pini, e più specificamente i cespugli.
0
Amo i cespugli, e più specificamente i pini.
0
Amo i pini, e più specificamente gli arbusti.
0
Amo gli arbusti, e più specificamente i pini.
0
Amo i gioielli, eccetto i pantaloni.
0
Uso il poliestere, e più specificamente il legno.
0
Uso il legno, e più specificamente il poliestere.
0
Uso il poliestere, e più specificamente la plastica.
0
Uso la plastica, e più specificamente il poliestere.
1
Uso la plastica, e più specificamente il legno.
0
Uso il poliestere, e più specificamente il cotone.
0
Uso il cotone, e più specificamente il poliestere.
0
Uso la plastica, e più specificamente il cotone.
0
Uso il poliestere, e più specificamente il vetro.
0
Uso il vetro, e più specificamente il poliestere.
0
Uso la plastica, e più specificamente il vetro.
0
Uso il poliestere, e più specificamente il cuoio.
0
Uso il cuoio, e più specificamente il poliestere.
0
Amo i pantaloni, eccetto gli occhiali.
0
Uso la plastica, e più specificamente il cuoio.
0
Amo gli occhiali, eccetto i pantaloni.
0
Uso il nylon, e più specificamente il legno.
0
Uso il legno, e più specificamente il nylon.
0
Uso il nylon, e più specificamente la plastica.
0
Uso la plastica, e più specificamente il nylon.
1
Uso il nylon, e più specificamente il cotone.
0
Uso il cotone, e più specificamente il nylon.
0
Uso il nylon, e più specificamente il vetro.
0
Uso il vetro, e più specificamente il nylon.
0
Uso il nylon, e più specificamente il cuoio.
0
Uso il cuoio, e più specificamente il nylon.
0
Amo i pantaloni, eccetto gli orecchini.
0
Amo gli orecchini, eccetto i pantaloni.
0
Uso il vinile, e più specificamente il legno.
0
Uso il legno, e più specificamente il vinile.
0
Uso il vinile, e più specificamente la plastica.
0
Uso la plastica, e più specificamente il vinile.
1
Uso il vinile, e più specificamente il cotone.
0
Uso il cotone, e più specificamente il vinile.
0
Uso il vinile, e più specificamente il vetro.
0
Uso il vetro, e più specificamente il vinile.
0
Uso il vinile, e più specificamente il cuoio.
0
Uso il cuoio, e più specificamente il vinile.
0
Uso il PVC, e più specificamente il legno.
0
Uso il legno, e più specificamente il PVC.
0
Uso il PVC, e più specificamente la plastica.
0
Uso la plastica, e più specificamente il PVC.
1
Uso il PVC, e più specificamente il cotone.
0
Uso il cotone, e più specificamente il PVC.
0
Uso il PVC, e più specificamente il vetro.
0
Uso il vetro, e più specificamente il PVC.
0
Uso il PVC, e più specificamente il cuoio.
0
Uso il cuoio, e più specificamente il PVC.
0
Apprezzo le sedie, e più specificamente le posate.
0
Apprezzo le posate, e più specificamente le sedie.
0
Apprezzo le sedie, e più specificamente i mobili.
0
Apprezzo i mobili, e più specificamente le sedie.
1
Apprezzo i mobili, e più specificamente le posate.
0
Apprezzo le sedie, e più specificamente i dipinti.
0
Apprezzo i dipinti, e più specificamente le sedie.
0
Apprezzo i mobili, e più specificamente i dipinti.
0
Apprezzo le sedie, e più specificamente la carta da parati.
0
Apprezzo la carta da parati, e più specificamente le sedie.
0
Apprezzo i mobili, e più specificamente la carta da parati.
0
Apprezzo le sedie, e più specificamente il parquet.
0
Apprezzo il parquet, e più specificamente le sedie.
0
Apprezzo i mobili, e più specificamente il parquet.
0
Apprezzo i tavoli, e più specificamente le posate.
0
Apprezzo le posate, e più specificamente i tavoli.
0
Apprezzo i tavoli, e più specificamente i mobili.
0
Apprezzo i mobili, e più specificamente i tavoli.
1
Apprezzo i tavoli, e più specificamente i dipinti.
0
Apprezzo i dipinti, e più specificamente i tavoli.
0
Apprezzo i tavoli, e più specificamente la carta da parati.
0
Apprezzo la carta da parati, e più specificamente i tavoli.
0
Apprezzo i tavoli, e più specificamente il parquet.
0
Apprezzo il parquet, e più specificamente i tavoli.
0
Apprezzo i guardaroba, e più specificamente le posate.
0
Apprezzo le posate, e più specificamente i guardaroba.
0

Presupposed Taxonomies: Evaluating Neural Network Semantics (PreTENS)

Original Paper: https://aclanthology.org/2022.semeval-1.29.pdf

This dataset comes from SemEVAL-2022 shared tasks.

The PreTENS task aims at focusing on semantic competence with specific attention on the evaluation of language models with respect to the recognition of appropriate taxonomic relations between two nominal arguments.

We collected the Italian part of the original dataset, and more specifically only the first sub-task: acceptability sentence classification.

Example

Here you can see the structure of the single sample in the present dataset.

{
  "text": string, # sample's text
  "label": int, # 0: non ha senso, 1: ha senso
}

Statitics

PRETENS 0 1
Training 3029 2808
Test 7707 6853

Proposed Prompts

Here we will describe the prompt given to the model over which we will compute the perplexity score, as model's answer we will chose the prompt with lower perplexity. Moreover, for each subtask, we define a description that is prepended to the prompts, needed by the model to understand the task.

Description of the task: "Indica se le seguenti frasi hanno senso.\n\n"

Cloze Style:

Label (non ha senso): "{{text}}\nLa frase precedente non ha senso"

Label (ha senso): "{{text}}\nLa frase precedente ha senso"

MCQA Style:

{{text}}\nDomanda: La frase precedente ha senso senso? Rispondi sì o no:

Results

The following results are given by the Cloze-style prompting over some english and italian-adapted LLMs.

PRETENS ACCURACY (15-shots)
Gemma-2B 53.5
QWEN2-1.5B 56.47
Mistral-7B 66.5
ZEFIRO 62
Llama-3-8B 72.34
Llama-3-8B-IT 65.58
ANITA 66.1

Aknowledgement

We would like to thank the authors of this resource for publicly releasing such an intriguing benchmark.

Additionally, we extend our gratitude to the students of the MNLP-2024 course, whose first homework explored various interesting prompting strategies.

The original dataset is freely available for download here.

License

The data come under MIT license.

Downloads last month
105

Collection including sapienzanlp/pretens