sxn6144 commited on
Commit
6d15fa6
·
1 Parent(s): d111416

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +66 -1
README.md CHANGED
@@ -6,6 +6,8 @@ language:
6
  # <b>AceGPT</b>
7
  AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
8
  Arabic language domain. This is the repository for the 7B pretrained model.
 
 
9
  ## Model Details
10
  We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
11
  generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
@@ -23,4 +25,67 @@ and a -chat categorie.
23
  ## Input
24
  Models input text only.
25
  ## Output
26
- Models output text only.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  # <b>AceGPT</b>
7
  AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
8
  Arabic language domain. This is the repository for the 7B pretrained model.
9
+
10
+ ---
11
  ## Model Details
12
  We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
13
  generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
 
25
  ## Input
26
  Models input text only.
27
  ## Output
28
+ Models output text only.
29
+
30
+ ## Model Evaluation Results
31
+
32
+ Experiments on Arabic MMLU and EXAMs. ' AverageBest ', ' STEM ', ' Humanities ', ' Social Sciences ' and ' Others (Business, Health, Misc)'
33
+ belong to Arabic MMLU. Best performance is in bold and the second best is underlined.
34
+
35
+ | Model | Average | STEM | Humanities | Social Sciences | Others (Business, Health, Misc) |EXAMs |
36
+ |-----------------|---------|------|------------|-----------------|---------------------------------|--------------|
37
+ | Bloomz Muennighoff et al. (2022) | 30.95 | 32.32 | 26.71 | 35.85 | 28.95 | 33.89 |
38
+ | Llama2-7B | 28.81 | 28.48 | 26.68 | 29.88 | 30.18 | 23.48 |
39
+ | Llama2-13B | 31.25 | 31.06 | 27.11 | 35.5 | 31.35 | 25.45 |
40
+ | Jais-13B-base | 30.01 | 27.85 | 25.42 | 39.7 | 27.06 | 35.67 |
41
+ | AceGPT-7B-base | 30.36 | 26.63 | 28.17 | 35.15 | 31.5 | 31.96 |
42
+ | AceGPT-13B-base | <u>37.26</u> | <u>35.16</u> | <u>30.3</u> | <u>47.34</u> | <u>36.25</u> | <u>36.63</u> |
43
+ | ChatGPT | <b>46.07</b> | <b>44.17</b> | <b>35.33/<b> | <b>61.26</b> | <b>43.52</b> | <b>45.63 </b> |
44
+
45
+ ---
46
+ ## Samples
47
+ #### Arabic MMLU (5-shot)
48
+ فيما يلي أسئلة الاختيار من متعدد (مع الإجابات) حول جبر تجريدي
49
+ سؤال: العثور على جميع قيم c في Z_3 بحيث يكون Z_3 [x]/(x^2+c) حقلًا.
50
+ A. 0
51
+ B. 1
52
+ C. 2
53
+ D. 3
54
+ إجابة: B
55
+
56
+
57
+ سؤال: البيان رقم 1 | إذا كان aH عنصرًا في مجموعة العوامل ، فإن | aH | يقسم | a |. البيان رقم 2 | إذا كانت H و K مجموعات فرعية لـ G ، فإن HK مجموعة فرعية لـ G.
58
+ A. صحيح ، صحيح
59
+ B. خطأ ، خطأ
60
+ C. صحيح ، خطأ
61
+ D. خطأ ، صحيح
62
+ إجابة: B
63
+
64
+
65
+ سؤال: العبارة 1 | كل عنصر من مجموعة يولد مجموعة دورية من المجموعة. العبارة 2 | المجموعة المتناظرة S_10 لديها 10 عناصر.
66
+ A. صحيح، صحيح
67
+ B. خطأ، خطأ
68
+ C. صحيح، خطأ
69
+ D. خطأ، صحيح
70
+ إجابة: C
71
+
72
+ سؤال: البيان 1| كل وظيفة من مجموعة محدودة على نفسها يجب أن تكون واحدة لكل مجموعة. البيان 2 | كل فرع فرعي لمجموعة أبيلية هو أبيلي.
73
+ A. صحيح, صحيح
74
+ B. خاطئ, خاطئ
75
+ C. صحيح, خاطئ
76
+ D. خاطئ, صحيح\nإجابة: A
77
+
78
+ سؤال: اعثر على خاصية الحلقة 2Z.
79
+ A. 0
80
+ B. 3
81
+ C. 12
82
+ D. 30
83
+ إجابة: A
84
+
85
+ سؤال: ما هو الدرجة للامتداد الميداني الناتج من Q(sqrt(2), sqrt(3), sqrt(18)) على Q؟
86
+ A. 0
87
+ B. 4
88
+ C. 2
89
+ D. 6
90
+ إجابة:",
91
+ # You can get more detail at https://github.com/FreedomIntelligence/AceGPT/tree/main