answer
stringlengths
2
48
question
stringlengths
39
93
id
stringlengths
14
15
paragraph
stringclasses
1 value
choices
sequencelengths
4
4
2001년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 외환위기를 완전히 극복한 년도는 언제인가?
KIIP_economy_1
[ "1999년", "2000년", "2001년", "2002년" ]
79달러
다음은 한국 사회의 경제에 대한 문제이다. 1960년 한국의 1인당 국민총소득은 얼마였는가?
KIIP_economy_2
[ "79달러", "800달러", "8,000달러", "80,000달러" ]
1997년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 외환위기를 겪은 년도는 언제인가?
KIIP_economy_3
[ "1995년", "1996년", "1997년", "1998년" ]
서울
다음은 한국 사회의 경제에 대한 문제이다. 한강은 어느 도시를 통과하는가?
KIIP_economy_4
[ "부산", "대구", "인천", "서울" ]
중화학 공업
다음은 한국 사회의 경제에 대한 문제이다. 1970년대부터 한국에서 발달하기 시작한 산업은 무엇인가?
KIIP_economy_5
[ "농업", "경공업", "중화학 공업", "서비스 업" ]
제조업과 서비스 업
다음은 한국 사회의 경제에 대한 문제이다. 2010년대 한국의 산업 구조는 어떤 산업이 주축이 되는가?
KIIP_economy_6
[ "농업과 임업", "제조업과 서비스 업", "경공업과 중화학 공업", "광업과 에너지 업" ]
28,000달러
다음은 한국 사회의 경제에 대한 문제이다. 2014년 한국의 1인당 국민총소득은 얼마였는가?
KIIP_economy_7
[ "2,800달러", "28,000달러", "280,000달러", "2,800,000달러" ]
한강의 기적
다음은 한국 사회의 경제에 대한 문제이다. 한국의 눈부신 경제 성장을 가리켜 무엇이라 부르는가?
KIIP_economy_8
[ "한강의 기적", "서울의 기적", "경제의 기적", "산업의 기적" ]
경공업
다음은 한국 사회의 경제에 대한 문제이다. 한국이 1960년대에 발달시킨 산업은 무엇인가?
KIIP_economy_9
[ "중화학 공업", "제조업", "경공업", "서비스업" ]
반도체, 선박, 자동차, 휴대폰, 석유 제품
다음은 한국 사회의 경제에 대한 문제이다. 2000년대 이후 한국이 주로 수출하는 상품은 무엇인가?
KIIP_economy_10
[ "옷, 신발, 가발", "흑연, 텅스텐, 철광석", "반도체, 선박, 자동차, 휴대폰, 석유 제품", "생명 공학, 정보 통신 제품" ]
8번째
다음은 한국 사회의 경제에 대한 문제이다. 2013년 한국은 세계에서 몇 번째로 큰 무역 대국이 되었는가?
KIIP_economy_11
[ "5번째", "6번째", "7번째", "8번째" ]
중국, 미국, 일본
다음은 한국 사회의 경제에 대한 문제이다. 한국과 무역을 가장 많이 하는 나라는 어디인가?
KIIP_economy_12
[ "중국, 미국, 일본", "미국, 일본, 영국", "중국, 미국, 영국", "미국, 일본, 프랑스" ]
어려움을 극복하겠다는 의지와 교육열
다음은 한국 사회의 경제에 대한 문제이다. 한국이 수출을 크게 늘리면서 경제 성장을 이룰 수 있었던 가장 중요한 요인은 무엇인가?
KIIP_economy_13
[ "자원의 풍부함", "기술의 발달", "어려움을 극복하겠다는 의지와 교육열", "자본의 축적" ]
5,000억 달러
다음은 한국 사회의 경제에 대한 문제이다. 2011년 한국의 수출액은 얼마였는가?
KIIP_economy_14
[ "100억 달러", "1,000억 달러", "5,000억 달러", "10,000억 달러" ]
2011년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 무역 규모 1조 달러를 돌파한 연도는 언제인가?
KIIP_economy_15
[ "1964년", "1977년", "1995년", "2011년" ]
우수한 노동력 확보와 첨단 기술 개발
다음은 한국 사회의 경제에 대한 문제이다. 한국이 경제 성장을 위해 주로 힘쓰고 있는 분야는 무엇인가?
KIIP_economy_16
[ "우수한 노동력 확보와 첨단 기술 개발", "자원 개발", "자본 축적", "무역 확대" ]
반도체
다음은 한국 사회의 경제에 대한 문제이다. 2010년대 기준, 한국의 10대 교역품목 중 가장 비율이 높은 것은 무엇인가?
KIIP_economy_17
[ "반도체", "석유제품", "자동차", "선박 해양구조물" ]
칠레
다음은 한국 사회의 경제에 대한 문제이다. 한국이 첫 자유무역협정(FTA)을 맺은 나라는 어디인가?
KIIP_economy_18
[ "미국", "인도", "칠레", "EU" ]
미국, 중국, EU
다음은 한국 사회의 경제에 대한 문제이다. 한국이 무역을 할 때 관세를 줄이거나 없애게 되는 세계 3대 시장은 무엇인가?
KIIP_economy_19
[ "미국, 중국, EU", "미국, 중국, 일본", "미국, EU, 일본", "중국, EU, 일본" ]
1996년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 OECD에 가입한 년도는 언제인가?
KIIP_economy_20
[ "1994년", "1996년", "1998년", "2000년" ]
APEC
다음은 한국 사회의 경제에 대한 문제이다. 2005년에 한국에서 열린 경제협력 회의는 무엇인가?
KIIP_economy_21
[ "ASEM", "APEC", "G20", "ASEAN" ]
G20
다음은 한국 사회의 경제에 대한 문제이다. 2010년에 서울에서 개최된 정상회의는 무엇인가?
KIIP_economy_22
[ "ASEM", "APEC", "G20", "ASEAN" ]
2009년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 OECD의 DAC 회원국으로 인정받은 년도는 언제인가?
KIIP_economy_23
[ "2007년", "2008년", "2009년", "2010년" ]
10개국
다음은 한국 사회의 경제에 대한 문제이다. 2015년 기준, 한국과 FTA를 체결한 국가 중 아세안은 몇 개국인가?
KIIP_economy_24
[ "4개국", "10개국", "28개국", "20개국" ]
경제적, 정치적, 사회적으로 선진국의 자격을 갖추었다는 것
다음은 한국 사회의 경제에 대한 문제이다. 한국이 OECD에 가입한 것은 어떤 것을 국제적으로 인정받은 것인가?
KIIP_economy_25
[ "경제적, 정치적, 사회적으로 선진국의 자격을 갖추었다는 것", "경제적, 정치적, 사회적으로 개발도상국의 자격을 갖추었다는 것", "경제적, 정치적, 사회적으로 신흥국의 자격을 갖추었다는 것", "경제적, 정치적, 사회적으로 후진국의 자격을 갖추었다는 것" ]
2009년
다음은 한국 사회의 경제에 대한 문제이다. 한국이 OECD의 개발원조위원회(DAC) 회원국으로 인정받은 년도는 언제인가?
KIIP_economy_26
[ "2007년", "2008년", "2009년", "2010년" ]
경제가 어려운 나라들
다음은 한국 사회의 경제에 대한 문제이다. 현재 한국이 적극적으로 돕는 나라들의 특징은 무엇인가?
KIIP_economy_27
[ "경제가 어려운 나라들", "군사적으로 약한 나라들", "인구가 많은 나라들", "자원이 풍부한 나라들" ]
상호저축은행
다음은 한국 사회의 경제에 대한 문제이다. 시중은행에서 제공하는 금리에 만족하지 못하는 사람이 이용할 수 있는 금융 기관은 무엇인가?
KIIP_economy_28
[ "농협", "수협", "우체국", "상호저축은행" ]
신분증
다음은 한국 사회의 경제에 대한 문제이다. 은행 계좌를 만들기 위해 필요한 것은 무엇인가?
KIIP_economy_29
[ "신분증", "여권", "외국인등록증", "운전면허증" ]
금융 실명제
다음은 한국 사회의 경제에 대한 문제이다. 한국에서 금융 거래를 할 때 반드시 지켜야 하는 제도는 무엇인가?
KIIP_economy_30
[ "금융 실명제", "금융 익명제", "금융 실명화", "금융 익명화" ]
여권과 외국인등록증
다음은 한국 사회의 경제에 대한 문제이다. 외국인이 한국에서 은행 계좌를 만들기 위해 필요한 서류는 무엇인가?
KIIP_economy_31
[ "여권과 외국인등록증", "신분증과 여권", "외국인등록증과 운전면허증", "여권과 운전면허증" ]
보통예금, 정기적금, 정기예금
다음은 한국 사회의 경제에 대한 문제이다. 대표적인 저축 상품에는 어떤 것들이 있는가?
KIIP_economy_32
[ "보통예금, 정기적금, 정기예금", "정기예금, 적금, 주식", "보통예금, 적금, 주식", "정기예금, 보통예금, 주식" ]
규모가 크고 안전하다
다음은 한국 사회의 경제에 대한 문제이다. 시중은행과 지방은행의 주요 특징은 무엇인가?
KIIP_economy_33
[ "규모가 크고 안전하다", "규모가 작고 안전하다", "규모가 크고 위험하다", "규모가 작고 위험하다" ]
예금 금리가 상대적으로 낮다
다음은 한국 사회의 경제에 대한 문제이다. 시중은행과 지방은행의 단점은 무엇인가?
KIIP_economy_34
[ "예금 금리가 상대적으로 낮다", "예금 금리가 상대적으로 높다", "서비스가 불편하다", "지점이 적다" ]
농협, 수협, 우체국
다음은 한국 사회의 경제에 대한 문제이다. 시중은행 외에 개인이 안심하고 편리하게 예금할 수 있는 금융 기관으로 어떤 것들이 있는가?
KIIP_economy_35
[ "농협, 수협, 우체국", "농협, 수협, 삼성증권", "삼성증권, 미래에셋증권, NH투자증권", "농협, 삼성증권, NH투자증권" ]
시중은행보다 금리가 높지만, 규모가 작고 안전성이 다소 떨어지며 지점 수가 많지 않다.
다음은 한국 사회의 경제에 대한 문제이다. 상호저축은행의 특징은 무엇인가?
KIIP_economy_36
[ "시중은행보다 금리가 낮다.", "시중은행보다 규모가 크다.", "시중은행보다 금리가 높지만, 규모가 작고 안전성이 다소 떨어지며 지점 수가 많지 않다.", "시중은행보다 금리가 높지만, 규모가 크고 안전성이 높다." ]
여러 금융 기관에 나누어 예금한다
다음은 한국 사회의 경제에 대한 문제이다. 예금액이 많을 경우 어떻게 해야 모두 보호받을 수 있는가?
KIIP_economy_37
[ "한 은행에 모두 예금한다", "여러 금융 기관에 나누어 예금한다", "금액을 줄인다", "보호받을 수 없다" ]
금리가 높다
다음은 한국 사회의 경제에 대한 문제이다. 상호저축은행의 특징은 무엇인가?
KIIP_economy_38
[ "금리가 높다", "규모가 크다", "안전성이 높다", "지점 수가 많다" ]
주식이나 채권에 투자하기
다음은 한국 사회의 경제에 대한 문제이다. 증권회사를 이용하는 주요 목적은 무엇인가?
KIIP_economy_39
[ "주식이나 채권에 투자하기", "보험 가입하기", "예금하기", "대출 받기" ]
증권회사
다음은 한국 사회의 경제에 대한 문제이다. 주식이나 채권에 투자하려면 어떤 기관을 통해야 하는가?
KIIP_economy_40
[ "은행", "보험회사", "증권회사", "상호저축은행" ]
물건 값이 싸고 상인들의 인심이 좋다
다음은 한국 사회의 경제에 대한 문제이다. 재래시장의 특징은 무엇인가?
KIIP_economy_41
[ "물건 값이 비싸다", "상인들의 인심이 나쁘다", "물건 값이 싸고 상인들의 인심이 좋다", "전통적 시장의 모습이 없다" ]
3일장
다음은 한국 사회의 경제에 대한 문제이다. 한국에서 3일에 한 번씩 열리는 시장을 무엇이라고 부르는가?
KIIP_economy_42
[ "3일장", "5일장", "상설시장", "재래시장" ]
부가가치세
다음은 한국 사회의 경제에 대한 문제이다. 한국에서 물건을 사거나 음식을 먹을 때 내야 하는 세금은 무엇인가?
KIIP_economy_43
[ "소득세", "부가가치세", "주민세", "법인세" ]
나중에 소득에 대해 세금을 덜 낼 수 있다
다음은 한국 사회의 경제에 대한 문제이다. 현금으로 물건을 사고 현금영수증을 발급받으면 어떤 장점이 있는가?
KIIP_economy_44
[ "나중에 소득에 대해 세금을 덜 낼 수 있다", "상품을 환불할 때 필요하다", "상품의 가격을 할인받을 수 있다", "상품을 교환할 때 필요하다" ]
소비자의 권리
다음은 한국 사회의 경제에 대한 문제이다. 한국에서는 소비자가 상품을 구입하고 사용할 때 어떤 것을 법으로 정해 놓고 있는가?
KIIP_economy_45
[ "소비자의 권리", "소비자의 의무", "상품의 가격", "상품의 품질" ]
한국소비자원
다음은 한국 사회의 경제에 대한 문제이다. 상품 구입 후 문제가 발생하였을 때, 문제가 해결되지 않고 전문가의 도움이 필요한 경우 어떤 기관의 도움을 받을 수 있는가?
KIIP_economy_46
[ "국세청", "한국소비자원", "현금영수증 홈페이지", "상품을 구입한 상점" ]
문제의 책임이 있는 곳을 밝혀주고 적절한 보상이 이루어지도록 도움
다음은 한국 사회의 경제에 대한 문제이다. 한국소비자원 등의 소비자를 도와주는 전문 기관들이 제공하는 서비스는 무엇인가?
KIIP_economy_47
[ "문제의 책임이 있는 곳을 밝혀주고 적절한 보상이 이루어지도록 도움", "상품의 가격을 할인해주는 서비스", "상품의 품질을 향상시켜주는 서비스", "상품의 배송을 도와주는 서비스" ]
문제의 책임이 있는 곳을 밝혀주고 보상을 도와주는 것
다음은 한국 사회의 경제에 대한 문제이다. 한국소비자원 등의 기관들이 소비자에게 어떤 도움을 주는가?
KIIP_economy_48
[ "문제의 책임이 있는 곳을 밝혀주고 보상을 도와주는 것", "상품의 품질을 검사해주는 것", "상품의 가격을 결정해주는 것", "상품의 안전성을 확보해주는 것" ]
여러 가지 교육 프로그램을 제공하고, 사회보장제도를 확대하는 것
다음은 한국 사회의 경제에 대한 문제이다. 한국 정부가 실업자를 돕기 위해 어떤 노력을 하고 있는가?
KIIP_economy_49
[ "여러 가지 교육 프로그램을 제공하고, 사회보장제도를 확대하는 것", "실업자에게 일을 하지 않더라도 계속적인 금전적 지원을 하는 것", "실업자에게 아르바이트 자리를 지원하는 것", "실업자에게 주거지원을 하는 것" ]
근로계약서 작성
다음은 한국 사회의 경제에 대한 문제이다. 한국에서 취업 시에 반드시 해야하는 것은 무엇인가?
KIIP_economy_50
[ "근로계약서 작성", "이력서 제출", "면접 준비", "증명사진 제출" ]
미국이나 유럽 등 다른 선진국에 비해 낮다
다음은 한국 사회의 경제에 대한 문제이다. 한국의 실업률은 어떤 국가들에 비해 어떤가?
KIIP_economy_51
[ "미국이나 유럽 등 다른 선진국에 비해 조금 높다", "미국이나 유럽 등 다른 선진국에 비해 낮다", "미국이나 유럽 등 다른 선진국과 비슷하다", "미국이나 유럽 등 다른 선진국에 비해 매우 높다" ]
취미
다음은 한국 사회의 경제에 대한 문제이다. 보기 중 한국의 취업준비생들이 직장을 구할 때 갖추려고 하지 않는 것을 고르시오.
KIIP_economy_52
[ "학벌", "학점", "영어 점수", "취미" ]
여성의 경제 활동 참가 비율이 낮고, 자영업자가 많기 때문
다음은 한국 사회의 경제에 대한 문제이다. 한국의 실업률이 상대적으로 낮게 나타나는 이유는 무엇인가?
KIIP_economy_53
[ "여성의 경제 활동 참가 비율이 높고, 자영업자가 적기 때문", "여성의 경제 활동 참가 비율이 낮고, 자영업자가 많기 때문", "여성의 경제 활동 참가 비율이 높고, 자영업자가 많기 때문", "여성의 경제 활동 참가 비율이 낮고, 자영업자가 적기 때문" ]
경쟁이 치열해졌다
다음은 한국 사회의 경제에 대한 문제이다. 2010년대의 한국에서의 직업 구하기의 상황은 어떻게 변하였는가?
KIIP_economy_54
[ "경쟁이 덜 치열해졌다", "경쟁이 치열해졌다", "변화가 없다", "경쟁이 약해졌다" ]
비정규직 노동자의 비중이 높아지면서 임금이나 근로조건에서 불리한 상황을 겪고 있다
다음은 한국 사회의 경제에 대한 문제이다. 2010년대의 한국에서 비정규직 노동자의 상황은 어떻게 변하고 있는가?
KIIP_economy_55
[ "비정규직 노동자의 비중이 줄어들고 있어 임금이나 근로조건이 개선되고 있다", "비정규직 노동자의 비중이 높아지면서 임금이나 근로조건에서 불리한 상황을 겪고 있다", "비정규직 노동자의 비중이 변화 없이 임금이나 근로조건에서 불리한 상황을 겪고 있다", "비정규직 노동자의 비중이 줄어들면서 임금이나 근로조건에서 불리한 상황을 겪고 있다" ]
스펙 자체가 능력은 아니기 때문에
다음은 한국 사회의 경제에 대한 문제이다. 스펙에 대한 부정적인 의견이 있는 이유는 무엇인가?
KIIP_economy_56
[ "스펙 자체가 능력은 아니기 때문에", "스펙이 취업에 크게 필요하지 않기 때문에", "스펙이 취업에 방해가 되기 때문에", "스펙이 취업에 도움이 되지 않기 때문에" ]
근로계약서 작성
다음은 한국 사회의 경제에 대한 문제이다. 노동자의 권리를 보호받기 위해 취업 시에는 무엇을 반드시 해야 하는가?
KIIP_economy_57
[ "임금 협상", "근로계약서 작성", "무료 상담", "무료 의료서비스" ]
1970년대에는 경제적 자립을 위해 수입대체산업을 집중적으로 육성하였다.
다음은 한국 사회의 경제에 대한 문제이다. 1960년대~1970년대 한국 경제개발 정책에 관한 설명으로 옳지 않은 것은?
Kedu_economy_1
[ "농촌 새마을운동을 전개하여 생활환경을 개선시켰다.", "1960년대 후반부터는 화학, 철강 및 기계 공업에 투자하여 공업 고도화를 추구하였다.", "1970년대에는 경제적 자립을 위해 수입대체산업을 집중적으로 육성하였다.", "경제개발 5개년 계획의 성취도를 점검하기 위해 월간경제동향보고회의 등을 개최하였다." ]
소득계층간.지역간 균형 발전에 의한 국민복지 증진
다음은 한국 사회의 경제에 대한 문제이다. ‘제1차 경제개발 5개년 계획’의 중점과제가 아닌 것은?
Kedu_economy_2
[ "농업생산력 증대", "전력.석탄 등의 에너지 공급원 확충", "국제수지 개선의 기반 확립", "소득계층간.지역간 균형 발전에 의한 국민복지 증진" ]

This dataset is the same as https://huggingface.co/datasets/EunsuKim/CLIcK. This dataset has been subdivided for simplified viewing and evaluation.

CLIcK 🇰🇷🧠

Evaluation of Cultural and Linguistic Intelligence in Korean

Dataset Paper

Introduction 🎉

CLIcK (Cultural and Linguistic Intelligence in Korean) is a comprehensive dataset designed to evaluate cultural and linguistic intelligence in the context of Korean language models. In an era where diverse language models are continually emerging, there is a pressing need for robust evaluation datasets, especially for non-English languages like Korean. CLIcK fills this gap by providing a rich, well-categorized dataset focusing on both cultural and linguistic aspects, enabling a nuanced assessment of Korean language models.

News 📰

  • [LREC-COLING] Our paper introducing CLIcK has been accepted to LREC-COLING 2024!🎉

Dataset Description 📊

The CLIcK benchmark comprises two broad categories: Culture and Language, which are further divided into 11 fine-grained subcategories.

Categories 📂

  • Language 🗣️

    • Textual Knowledge
    • Grammatical Knowledge
    • Functional Knowledge
  • Culture 🌍

    • Korean Society
    • Korean Tradition
    • Korean Politics
    • Korean Economy
    • Korean Law
    • Korean History
    • Korean Geography
    • Korean Popular Culture (K-Pop)

Construction 🏗️

CLIcK was developed using two human-centric approaches:

  1. Reclassification of official and well-designed exam data into our defined categories.
  2. Generation of questions using ChatGPT, based on official educational materials from the Korean Ministry of Justice, followed by our own validation process.

Structure 🏛️

The dataset is organized as follows, with each subcategory containing relevant JSON files:

📦CLIcK
 └─ Dataset
    ├─ Culture
    │  ├─ [Each cultural subcategory with associated JSON files]
    └─ Language
       ├─ [Each language subcategory with associated JSON files]

Exam Code Descriptions 📜

  • KIIP: Korea Immigration & Integration Program (Website)
  • CSAT: College Scholastic Ability Test for Korean (Website)
  • Kedu: Test of Teaching Korean as a Foreign Language exams (Website)
  • PSE: Public Service Exam for 9th grade
  • TOPIK: Test of Proficiency in Korean (Website)
  • KHB: Korean History Exam Basic (Website)
  • PSAT: Public Service Aptitude Test in Korea

Results

Models Average Accuracy (Korean Culture) Average Accuracy (Korean Language)
Polyglot-Ko 1.3B 32.71% 22.88%
Polyglot-Ko 3.8B 32.90% 22.38%
Polyglot-Ko 5.8B 33.14% 23.27%
Polyglot-Ko 12.8B 33.40% 22.24%
KULLM 5.8B 33.79% 23.50%
KULLM 12.8B 33.51% 23.78%
KoAlpaca 5.8B 32.33% 23.87%
KoAlpaca 12.8B 33.80% 22.42%
LLaMA-Ko 7B 33.26% 25.69%
LLaMA 7B 35.44% 27.17%
LLaMA 13B 36.22% 26.71%
GPT-3.5 49.30% 42.32%
Claude2 51.72% 45.39%

Dataset Link 🔗

The CLIcK dataset is available on the Hugging Face Hub: CLIcK Dataset

Citation 📝

If you use CLIcK in your research, please cite our paper:

@misc{kim2024click,
      title={CLIcK: A Benchmark Dataset of Cultural and Linguistic Intelligence in Korean}, 
      author={Eunsu Kim and Juyoung Suk and Philhoon Oh and Haneul Yoo and James Thorne and Alice Oh},
      year={2024},
      eprint={2403.06412},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Contact 📧

For any questions or inquiries, please contact [email protected].

Downloads last month
74