Update README.md
Browse files
README.md
CHANGED
|
@@ -15,6 +15,12 @@ We trained the model using the ColossalAI framework which fully supports the Hug
|
|
| 15 |
|
| 16 |
The training data is a combination of Arabic datasets covering multiple tasks, more details are provided in the dataset section.
|
| 17 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
### **Usage**
|
| 19 |
|
| 20 |
The usage of our model only requires the Transformers library, and can be loaded as follows:
|
|
|
|
| 15 |
|
| 16 |
The training data is a combination of Arabic datasets covering multiple tasks, more details are provided in the dataset section.
|
| 17 |
|
| 18 |
+
مرحبًا بكم في بطاقة نموذج "نون"!
|
| 19 |
+
يحتوي "نون" على أكثر من 7 مليار عامل متغير، مما يجعله أكبر نموذج للغة العربية المطروح حتى الآن. تم تدريب هذا النموذج على أكثر من 110,000 سجل بيانات باللغة العربية، والتي تغطي أكثر من 10 ملايين كلمة، تتنوع ما بين إنتاج النصوص، وإنشاء الشفرات، وحل المسائل الرياضية، والأسئلة المغلقة/المفتوحة. تم تدريب هذا النموذج باستخدام تقنيات تدريب متقدمة مثل التدريب الموزع على عدة وحدات معالجة رسومية، وتكييف LoRA (Low Rank Adaptation)، وتحسين ZeRO (Zero Redundancy Optimization).
|
| 20 |
+
نحن فخورون بتقديم هذا النموذج الذي يمثل قفزة نوعية في تقنية معالجة اللغة العربية. نقدم في الأقسام التالية مزيد من التفاصيل عن كيفية استخدام نموذج "نون" ومختلف الخصائص التقنية المتعلقة بعملية التدريب.
|
| 21 |
+
|
| 22 |
+
على أمل أن يكون هذا النموذج خدمةً للطورين والباحثين العلميين في هذا المجال، ولكل الناطقين باللغة العربية.
|
| 23 |
+
|
| 24 |
### **Usage**
|
| 25 |
|
| 26 |
The usage of our model only requires the Transformers library, and can be loaded as follows:
|