Datasets:

EunB2
/

Kontrast-YesNo_320sentences

id int64 1 320	sentence stringlengths 6 45	gold_label stringclasses 2 values
1	서울은 한국의 수도이다.	예
2	철수가 어제 영희에게 준 것은 책이야.	예
3	황진이는 서화담이 사귀었던 기생이다.	예
4	빈번히 일어나는 유괴 사건이 우리를 슬프게 한다.	예
5	영이가 예쁘지 않다.	예
6	철수가 그 책을 읽기는 읽었다.	예
7	철수가 영이를 만났다.	예
8	철수가 영희에게 선물을 사주었다.	예
9	나는 철수에게 선물을 안 사주었다.	예
10	박선생님께서 영희를 만나시기는 만나셨다.	예
11	적군이 서울을 파괴했다.	예
12	존이 메리를 좋아한다.	예
13	내가 가노라	예
14	철수가 수학을 연구했다, 그리고 존이 언어학을 공부했다.	예
15	존이 자기의 큰 아들과 산다.	예
16	존이 침대에서 잔다	예
17	존이 한국어 사전을 사고 메리가 영어 사전을 샀다.	예
18	존이 밥 먹었다.	예
19	존은 메리가 철수를 안다고 믿는다.	예
20	존은 메리가 철수를 만났다고 믿는다.	예
21	존은 저녁을 먹고 잤다.	예
22	철수가 영이를 만나기는 만났다.	예
23	철수는 영희에게 떠나라고 명령하였다.	예
24	철수가 밥을 안 먹었기는 안 먹었다.	예
25	철수가 밥을 안 먹기는 하였다.	예
26	철수가 밥을 먹었기는 먹었다.	예
27	정부가 담배를 수입을 했다.	예
28	철수가 영이를 만났기는 만났다.	예
29	그 학생은 어떻게 공부했을 때에 점수가 제일 좋았습니까?	예
30	영희가 건강하다.	예
31	사람들이 뛰었다.	예
32	철수가 영화를 보고 숙제를 했다.	예
33	민수가 이 동아리의 회장이다.	예
34	배신당한 기분이다.	예
35	배신당한 기분이다.	예
36	철수가 메리의 누이를 그리고 빌이 영희의 누이를 좋아한다.	예
37	학생 한 명이 예쁘다.	예
38	그 책을 언니가 읽는다.	예
39	그 산이 보이기는 보인다.	예
40	그 책을 언니가 읽는다.	예
41	아무도 영희를 좋아하지 않는다.	예
42	철수는 오늘 물 한 잔도 안 마셨다.	예
43	철수도 영희를 좋아한다.	예
44	한 사람도 그 통사론 문제를 이해할 수 없었다.	예
45	철수가 영희에게 반지를 주었다.	예
46	존이 메리에게도 전화를 했다.	예
47	철수가 영희밖에 만나지 아니했다.	예
48	철수가 누구에게 편지하였냐?	예
49	누구가 이겼냐가 중요하다	예
50	영희가 침착하다.	예
51	존을 어떻게 여긴다고?	예
52	적이 도시를 철저하게 파괴하였다.	예
53	이 분이 내가 좋아하는 교수님이야.	예
54	적이 도시를 파괴하였다.	예
55	메리가 존을 쫓아냈다.	예
56	피터는 교실에서 공부한다.	예
57	존은 메리가 무엇을 샀는지 몰랐다.	예
58	영희가 누군가에게 그 책을 주었는데 누구인지 모르겠다.	예
59	김 선생이 그 남자가 기다리던 소녀에요.	예
60	모두가 벙어리인 듯 침묵했어요.	예
61	나는 그의 제안에 찬성이다.	예
62	철수가 그 일을 반대하였다.	예
63	나는 철수가 작년에 만든 획기적인 작품을 특별히 좋아해.	예
64	철수는 영희를 수학을 못한다고 생각하였다.	예
65	저것이 좋다.	예
66	철수가 영희를 어제 만났다.	예
67	철수가 영희가 행복하다고 생각한다.	예
68	그 일이 참 힘들기는 힘들겠다.	예
69	영미가 공부를 잘 하기는 한다.	예
70	한 시간 안에 존이 편지를 썼다.	예
71	철수가 선물을 받은 것은 어떤 여자로부터다.	예
72	존이 메리를 만나기는 했다.	예
73	의사가 영희에게 단식할 것을 명령했다.	예
74	철수만이 메리를 사랑했다.	예
75	강남이 집값이 비싸다.	예
76	철수는 영희를 세 번을 때렸다.	예
77	철수가 존을 네 번을 때렸다.	예
78	철수가 동수를 십 초를 때렸다.	예
79	메리가 아주 예쁘기는 하다.	예
80	책을 철수가 샀다.	예
81	철수가 영희를 애인으로 간주했다.	예
82	나는 누구가 왔나 안다.	예
83	철수에게 돈이 있다.	예
84	누구나 책을 샀다.	예
85	김 선생님이 오셨다.	예
86	요즘은 아무나 대학에 간다.	예
87	아버님께서 메리를 만나셨는가 보다.	예
88	아버님은 메리를 걱정시키셨다.	예
89	언어학을 존은 좋아한다.	예
90	메리가 존을 서울에서도 만났어.	예
91	메리가 그림을 크레용으로도 그렸다.	예
92	영희가 사랑하는 것은 철수이다.	예
93	그는 아이들이 돌아왔음을 알았다.	예
94	꽃은 장미가 예쁘다.	예
95	영희가 머리가 길다.	예
96	영희는 창문을 닦는다.	예
97	가시가 목에 걸렸다.	예
98	손님이 의자에 앉는다.	예
99	아이가 마당에서 논다.	예
100	철수가 집에서 놀고 있다.	예

End of preview. Expand in Data Studio

Kontrast Dataset

Paper: Evaluating GPT’s Ability to Understand Syntactic Minimal Pairs in Korean
Authors: Jina Song, Eunbi Cho, Sanghoun Song
GitHub😺
Kontrast-LikertScale_320sentences
Kontrast-ForcedChoice_160pairs

This dataset, Kontrast, contains Korean syntactic minimal pairs used to evaluate the syntactic competence of large language models (LLMs), including GPT-3.5, GPT-4, and GPT-4o.

Main Concept

The dataset consists of syntactic minimal pairs, where each pair includes:

An acceptable sentence
A less acceptable sentence (due to a syntactic violation)

These pairs help assess whether language models align with native Korean speaker judgments regarding syntactic acceptability.

Data Description

This dataset consists of three subsets based on different experimental tasks:

Forced Choice Task (ForcedChoice_160pairs.xlsx)
- 160 sentence pairs where one sentence is grammatically more acceptable than the other.
- The model is asked to choose the more acceptable sentence.
- Columns:
  - id: Unique identifier for the sentence pair.
  - sentence_A: The more acceptable sentence.
  - sentence_B: The less acceptable sentence.
  - gold_label: Correct answer (either A or B).
Yes/No Task (YesNo_320sentences.xlsx)
- 320 individual sentences labeled as acceptable (예) or unacceptable (아니오).
- The model is asked to determine whether each sentence is acceptable.
- Columns:
  - id: Unique identifier for each sentence.
  - sentence: The sentence being evaluated.
  - gold_label: Acceptability judgment (예 or 아니오).
Likert Scale Task (LikertScale_320sentences.xlsx)
- 320 individual sentences, each rated based on acceptability judgments by human annotators.
- The model assigns a score between 1 and 5, where:
  - 1 = 전혀 수용 불가능함 (Totally unacceptable)
  - 2 = 수용 불가능함 (Unacceptable)
  - 3 = 보통임 (Neutral)
  - 4 = 수용 가능함 (Acceptable)
  - 5 = 매우 수용 가능함 (Very acceptable)
- Columns:
  - id: Unique identifier for each sentence.
  - sentence: The sentence being evaluated.
  - gold_label: Acceptability judgment (정문 or 비문).

Example Data

Forced Choice Task

ID	Acceptable Sentence (A)	Less Acceptable Sentence (B)	Correct Answer
1	서울은 한국의 수도이다.	서울은 한국의 수도뿐이다.	A
2	철수가 어제 준 것은 영희에게 책이야.	철수가 어제 영희에게 준 것은 책이야.	B

Yes/No Task

ID	Sentence	Judgment
1	철수가 어제 영희에게 준 것은 책이야.	예
2	빈번히 일어나는 유괴 사건이 우리를 슬펐게 한다.	아니오

Likert Scale Task

ID	Sentence	Judgment
1	서울은 한국의 수도이다.	정문
2	영이가 예쁘지 않고 있다.	비문

Citation

@article{song2024evaluating,
  author    = {Jina Song and Eunbi Cho and Sanghoun Song},
  title     = {Evaluating GPT’s Ability to Understand Syntactic Minimal Pairs in Korean},
  journal   = {Language and Information},
  volume    = {28},
  number    = {3},
  pages     = {83-109},
  year      = {2024},
  publisher = {The Korean Society for Language and Information}
}

License

TBD

Downloads last month: 36

Size of downloaded dataset files:

10.2 kB

Size of the auto-converted Parquet files:

10.2 kB

Number of rows:

320