Update README.md
Browse files
README.md
CHANGED
@@ -6,6 +6,8 @@ language:
|
|
6 |
# <b>AceGPT</b>
|
7 |
AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
|
8 |
Arabic language domain. This is the repository for the 7B pretrained model.
|
|
|
|
|
9 |
## Model Details
|
10 |
We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
|
11 |
generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
|
@@ -23,4 +25,67 @@ and a -chat categorie.
|
|
23 |
## Input
|
24 |
Models input text only.
|
25 |
## Output
|
26 |
-
Models output text only.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
6 |
# <b>AceGPT</b>
|
7 |
AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
|
8 |
Arabic language domain. This is the repository for the 7B pretrained model.
|
9 |
+
|
10 |
+
---
|
11 |
## Model Details
|
12 |
We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
|
13 |
generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
|
|
|
25 |
## Input
|
26 |
Models input text only.
|
27 |
## Output
|
28 |
+
Models output text only.
|
29 |
+
|
30 |
+
## Model Evaluation Results
|
31 |
+
|
32 |
+
Experiments on Arabic MMLU and EXAMs. ' AverageBest ', ' STEM ', ' Humanities ', ' Social Sciences ' and ' Others (Business, Health, Misc)'
|
33 |
+
belong to Arabic MMLU. Best performance is in bold and the second best is underlined.
|
34 |
+
|
35 |
+
| Model | Average | STEM | Humanities | Social Sciences | Others (Business, Health, Misc) |EXAMs |
|
36 |
+
|-----------------|---------|------|------------|-----------------|---------------------------------|--------------|
|
37 |
+
| Bloomz Muennighoff et al. (2022) | 30.95 | 32.32 | 26.71 | 35.85 | 28.95 | 33.89 |
|
38 |
+
| Llama2-7B | 28.81 | 28.48 | 26.68 | 29.88 | 30.18 | 23.48 |
|
39 |
+
| Llama2-13B | 31.25 | 31.06 | 27.11 | 35.5 | 31.35 | 25.45 |
|
40 |
+
| Jais-13B-base | 30.01 | 27.85 | 25.42 | 39.7 | 27.06 | 35.67 |
|
41 |
+
| AceGPT-7B-base | 30.36 | 26.63 | 28.17 | 35.15 | 31.5 | 31.96 |
|
42 |
+
| AceGPT-13B-base | <u>37.26</u> | <u>35.16</u> | <u>30.3</u> | <u>47.34</u> | <u>36.25</u> | <u>36.63</u> |
|
43 |
+
| ChatGPT | <b>46.07</b> | <b>44.17</b> | <b>35.33/<b> | <b>61.26</b> | <b>43.52</b> | <b>45.63 </b> |
|
44 |
+
|
45 |
+
---
|
46 |
+
## Samples
|
47 |
+
#### Arabic MMLU (5-shot)
|
48 |
+
فيما يلي أسئلة الاختيار من متعدد (مع الإجابات) حول جبر تجريدي
|
49 |
+
سؤال: العثور على جميع قيم c في Z_3 بحيث يكون Z_3 [x]/(x^2+c) حقلًا.
|
50 |
+
A. 0
|
51 |
+
B. 1
|
52 |
+
C. 2
|
53 |
+
D. 3
|
54 |
+
إجابة: B
|
55 |
+
|
56 |
+
|
57 |
+
سؤال: البيان رقم 1 | إذا كان aH عنصرًا في مجموعة العوامل ، فإن | aH | يقسم | a |. البيان رقم 2 | إذا كانت H و K مجموعات فرعية لـ G ، فإن HK مجموعة فرعية لـ G.
|
58 |
+
A. صحيح ، صحيح
|
59 |
+
B. خطأ ، خطأ
|
60 |
+
C. صحيح ، خطأ
|
61 |
+
D. خطأ ، صحيح
|
62 |
+
إجابة: B
|
63 |
+
|
64 |
+
|
65 |
+
سؤال: العبارة 1 | كل عنصر من مجموعة يولد مجموعة دورية من المجموعة. العبارة 2 | المجموعة المتناظرة S_10 لديها 10 عناصر.
|
66 |
+
A. صحيح، صحيح
|
67 |
+
B. خطأ، خطأ
|
68 |
+
C. صحيح، خطأ
|
69 |
+
D. خطأ، صحيح
|
70 |
+
إجابة: C
|
71 |
+
|
72 |
+
سؤال: البيان 1| كل وظيفة من مجموعة محدودة على نفسها يجب أن تكون واحدة لكل مجموعة. البيان 2 | كل فرع فرعي لمجموعة أبيلية هو أبيلي.
|
73 |
+
A. صحيح, صحيح
|
74 |
+
B. خاطئ, خاطئ
|
75 |
+
C. صحيح, خاطئ
|
76 |
+
D. خاطئ, صحيح\nإجابة: A
|
77 |
+
|
78 |
+
سؤال: اعثر على خاصية الحلقة 2Z.
|
79 |
+
A. 0
|
80 |
+
B. 3
|
81 |
+
C. 12
|
82 |
+
D. 30
|
83 |
+
إجابة: A
|
84 |
+
|
85 |
+
سؤال: ما هو الدرجة للامتداد الميداني الناتج من Q(sqrt(2), sqrt(3), sqrt(18)) على Q؟
|
86 |
+
A. 0
|
87 |
+
B. 4
|
88 |
+
C. 2
|
89 |
+
D. 6
|
90 |
+
إجابة:",
|
91 |
+
# You can get more detail at https://github.com/FreedomIntelligence/AceGPT/tree/main
|