erax commited on
Commit
466f953
1 Parent(s): 716105f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +252 -36
README.md CHANGED
@@ -4,7 +4,6 @@ language:
4
  - vi
5
  - en
6
  - zh
7
-
8
  base_model:
9
  - Qwen/Qwen2-VL-7B-Instruct
10
  library_name: transformers
@@ -15,37 +14,67 @@ tags:
15
  - insurance
16
  - ocr
17
  - vietnamese
18
- pipeline_tag: image-text-to-text
 
 
 
 
 
 
 
19
  ---
20
- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/fNxjr3en_onzbOv0sghpE.jpeg)
 
 
 
21
 
22
  # EraX-VL-7B-V1
23
- ### Introduction
 
 
 
 
 
 
 
 
 
 
 
 
24
 
25
- We are happy to share the EraX-VL-7B-v1 model, a powerful multimodal model in OCR (optical character recognition) and VQA (vision question-answering) across multiple languages but especially in Vietnamese.
26
- One of the strengths of the EraX-VL-7B is its ability to accurately recognize medical forms of all kinds, invoices, bills of sale, quotes, and medical records, among other things, which we believe will be very convenient for Hospitals, Clinics, Insurance Companies, and other applications.
27
- EraX-VL-7B has been finetuned from the base Qwen/Qwen2-VL-7B-Instruct which we found to be of good quality and quite fluent in Vietnamese.
28
- We will continue to develop and release better versions for free use, as well as share benchmarks in the near future.
29
 
30
- EraX-VL-7B-V1 is a young member of our EraX's LànhGPT repository of LLM models.
 
 
 
 
 
 
 
 
 
 
31
 
32
- - **Developed by:** Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Dũng Hoàng and Thục Phạm and Nhật Phạm.
33
- - **Funded by:** Bamboo Capital Group (https://bamboocap.com.vn) and EraX.
34
- - **Model type:** Transformers' multi-modal, +7 billions parameters.
35
- - **Language(s) (NLP):** Vietnamese and Multilingual
36
- - **License:** apache-2.0
37
- - **Finetuned from model:** Qwen/Qwen2-VL-7B-Instruct
38
 
39
- ### Direct Use
 
40
 
41
- Please use this Colab example: https://colab.research.google.com/drive/1CnSxtWDLG48-NQh7wk9_z8WI7J4OY_Ci?usp=sharing
42
 
43
- ## dụ
44
 
45
- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/Q5GkK8vuZ9zDVPkhwu4yH.jpeg)
 
46
 
47
- * Kết quả:
48
- *
 
 
 
49
  {
50
  "document": {
51
  "header": {
@@ -76,11 +105,12 @@ Please use this Colab example: https://colab.research.google.com/drive/1CnSxtWDL
76
  }
77
  }
78
  }
 
 
79
 
80
  ![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/IrX-QP67TZTcTl3vlp1uZ.png)
81
 
82
- * Kết quả:
83
-
84
  {
85
  "header": {
86
  "title": "PHIẾU KHÁM BỆNH",
@@ -134,33 +164,219 @@ Please use this Colab example: https://colab.research.google.com/drive/1CnSxtWDL
134
  "dentist_signature": "(Ký và ghi rõ họ tên)"
135
  }
136
  }
 
 
137
 
138
  ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/pSSqEOXQCsvz9H76CGQXa.jpeg)
139
 
140
- * Kết quả:
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
141
 
142
- Hình ảnh một biểu đồ thể hiện mối quan hệ giữa chỉ số BMI (Body Mass Index) và tuổi, được chia thành các mức độ khác nhau dựa trên phần trăm percentile. Trục hoành của biểu đồ đại diện cho tuổi từ 2 đến 20 năm, trong khi trục tung đại diện cho chỉ số BMI từ 10 đến 32. Biểu đồ này có ba khu vực chính: vùng màu đỏ ở phía dưới cùng đại diện cho mức béo phì với chỉ số BMI cao hơn 30; vùng màu vàng nằm giữa đại diện cho nguy cơ béo phì với chỉ số BMI từ khoảng 25 đến 30; và vùng màu xanh lá cây ở phía trên đại diện cho mức cân nặng khỏe mạnh hoặc thiếu cân với chỉ số BMI thấp hơn 25. Trên biểu đồ còn có đường cong màu xám chạy qua các mức độ BMI theo tuổi, đánh dấu các mức 5th, 50th, 95th percentile. Văn bản trong hình gồm các cụm từ 'Béo phì', 'Nguy cơ béo phì', 'Sức khỏe dinh dưỡng tốt', và 'Thiếu cân' để mô tả từng khu vực tương ứng với chỉ số BMI.
143
 
144
- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/kXrR6s990p0EgphZEtEnJ.jpeg)
145
 
146
- * Kết quả:
 
 
 
147
 
148
- Hình ảnh chụp một khung cảnh đồng quê Việt Nam với những nét đặc trưng riêng biệt. Bối cảnh là một cánh đồng lúa xanh mướt, trải dài bất tận, được bao phủ bởi một lớp sương mù nhẹ nhàng. Phía xa là những dãy núi xanh ngắt, tạo nên một bức tranh thiên nhiên thơ mộng và trữ tình. Ở trung tâm bức ảnh, hai cậu đang ngồi trên lưng con trâu nước đen tuyền. Cậu bé phía trước mặc quần đỏ, đang cười tươi rói, trong khi cậu bé phía sau mặc quần đen, vẻ mặt trầm tư hơn. Con trâu nước đang đứng yên, đầu hướng về phía bên phải, nhìn về phía xa xăm. Phía bên phải hình ảnh, một người đàn ông đang cầm một cái chậu màu đen, đang đổ nước lên đầu mình. Nước từ chậu chảy xuống tạo thành những giọt nước li ti, tung tóe khắp không gian. Trên bầu trời, có những đám mây trắng bồng bềnh, tạo nên một khung cảnh thanh bình lãng mạn. Ánh nắng vàng óng chiếu rọi xuống cánh đồng, tạo nên một bức tranh tuyệt đẹp.
149
 
 
150
 
151
- ## Citation
152
 
153
- - title={EraX-VL-7B-V1: A Highly Efficient Multimodal LLM for Vietnamese, especially for medical forms and bills.},
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
154
  - author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Dũng Hoàng and Thục Phạm and Nhật Phạm},
155
  - helpers={Khang Đoàn and AAA JS Company},
156
  - contact={[email protected]},
157
- - organization={EraX}
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
158
 
159
- ## References
160
- [1] Yang, An, et al. "Qwen2 technical report." arXiv preprint arXiv:2407.10671 (2024).
161
 
162
- [2] Chen, Zhe, et al. "Internvl: Scaling up vision foundation models and aligning for generic visual-linguistic tasks." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024.
163
 
164
- [3] Chen, Zhe, et al. "How far are we to gpt-4v? closing the gap to commercial multimodal models with open-source suites." arXiv preprint arXiv:2404.16821 (2024).
165
 
166
- [4] Tran, Chi, and Huong Le Thanh. "LaVy: Vietnamese Multimodal Large Language Model." arXiv preprint arXiv:2404.07922 (2024).
 
 
 
4
  - vi
5
  - en
6
  - zh
 
7
  base_model:
8
  - Qwen/Qwen2-VL-7B-Instruct
9
  library_name: transformers
 
14
  - insurance
15
  - ocr
16
  - vietnamese
17
+ - bcg
18
+ pipeline_tag: visual-question-answering
19
+
20
+ widget:
21
+ - src: images/photo-1-16505057982762025719470.webp
22
+ example_title: Test 1
23
+ - src: images/vt-don-thuoc-f0-7417.jpeg
24
+ example_title: Test 2
25
  ---
26
+ <p align="center">
27
+ <img src="https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/fNxjr3en_onzbOv0sghpE.jpeg" alt="Logo">
28
+ </p>
29
+ <!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/fNxjr3en_onzbOv0sghpE.jpeg) -->
30
 
31
  # EraX-VL-7B-V1
32
+ ## Introduction 🎉
33
+
34
+ <!-- <p style="text-align: justify;">
35
+ We are excited to introduce **EraX-VL-7B-v1**, a robust multimodal model for **OCR (optical character recognition)** and **VQA (visual question-answering)** that excels in various languages 🌍, with a particular focus on Vietnamese 🇻🇳. The `EraX-VL-7B` model stands out for its precise recognition capabilities across a range of documents 📝, including medical forms 🩺, invoices 🧾, bills of sale 💳, quotes 📄, and medical records 💊. This functionality is expected to be highly beneficial for hospitals 🏥, clinics 💉, insurance companies 🛡️, and other similar applications 📋. Built on the solid foundation of the [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)[1], which we found to be of high quality and fluent in Vietnamese, `EraX-VL-7B` has been fine-tuned to enhance its performance. We plan to continue improving and releasing new versions for free, along with sharing performance benchmarks in the near future.
36
+
37
+ One standing-out feature of **EraX-VL-7B-v1** is the capability to do multi-turn Q&A with pretty good reasoning! Thanks for the size of 7+ billions parameters of base model.
38
+
39
+ **EraX-VL-7B-V1** is a young member of our **EraX's LànhGPT** collection of LLM models.
40
+ </p> -->
41
+
42
+ We are excited to introduce **EraX-VL-7B-v1**, a robust multimodal model for **OCR (optical character recognition)** and **VQA (visual question-answering)** that excels in various languages 🌍, with a particular focus on Vietnamese 🇻🇳. The `EraX-VL-7B` model stands out for its precise recognition capabilities across a range of documents 📝, including medical forms 🩺, invoices 🧾, bills of sale 💳, quotes 📄, and medical records 💊. This functionality is expected to be highly beneficial for hospitals 🏥, clinics 💉, insurance companies 🛡️, and other similar applications 📋. Built on the solid foundation of the [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)[1], which we found to be of high quality and fluent in Vietnamese, `EraX-VL-7B` has been fine-tuned to enhance its performance. We plan to continue improving and releasing new versions for free, along with sharing performance benchmarks in the near future.
43
+
44
+ One standing-out feature of **EraX-VL-7B-v1** is the capability to do multi-turn Q&A with pretty good reasoning! Thanks for the size of 7+ billions parameters of base model.
45
 
46
+ **EraX-VL-7B-V1** is a young member of our **EraX's LànhGPT** collection of LLM models.
 
 
 
47
 
48
+ - **Developed by:**
49
+ - Nguyễn Anh Nguyên ([email protected])
50
+ - Nguyễn Hồ Nam (BCG)
51
+ - Hoàng Tiến Dũng ([email protected])
52
+ - Phạm Huỳnh Nhật ([email protected])
53
+ - Phạm Đình Thục ([email protected])
54
+ - **Funded by:** [Bamboo Capital Group](https://bamboocap.com.vn) and EraX
55
+ - **Model type:** Multimodal Transformer with over 7B parameters
56
+ - **Languages (NLP):** Primarily Vietnamese with multilingual capabilities
57
+ - **License:** Apache 2.0
58
+ - **Fine-tuned from:** [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)
59
 
60
+ ## Benchmarks 📊
61
+ Coming Soon!!!
 
 
 
 
62
 
63
+ ## API trial 🎉
64
+ Please contact **[email protected]** for API access inquiry.
65
 
66
+ ## Examples 🧩
67
 
68
+ ### Example 01: OCR - Optical Character Recognition for Image
69
 
70
+ <!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/Q5GkK8vuZ9zDVPkhwu4yH.jpeg)
71
+ -->
72
 
73
+ <div align="center">
74
+ <img src="images/henkham_0.jpg" width="500"/>
75
+ </div>
76
+
77
+ ```
78
  {
79
  "document": {
80
  "header": {
 
105
  }
106
  }
107
  }
108
+ ```
109
+ ### Example 02: OCR - Optical Character Recognition for PDF
110
 
111
  ![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/IrX-QP67TZTcTl3vlp1uZ.png)
112
 
113
+ ```
 
114
  {
115
  "header": {
116
  "title": "PHIẾU KHÁM BỆNH",
 
164
  "dentist_signature": "(Ký và ghi rõ họ tên)"
165
  }
166
  }
167
+ ```
168
+ ### Example 03: Image Captioning
169
 
170
  ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/pSSqEOXQCsvz9H76CGQXa.jpeg)
171
 
172
+ Hình ảnh là một biểu đồ thể hiện <span style="color:blue">mối quan hệ giữa chỉ số BMI (Body Mass Index) và tuổi</span>, được chia thành các mức độ khác nhau dựa trên phần trăm percentile. Trục hoành của biểu đồ đại diện cho tuổi từ 2 đến 20 năm, trong khi trục tung đại diện cho chỉ số BMI từ 10 đến 32. Biểu đồ này có ba khu vực chính: **<span style="color:red">vùng màu đỏ</span>** ở phía dưới cùng đại diện cho mức béo phì với chỉ số BMI cao hơn 30; **<span style="color:orange">vùng màu vàng</span>** nằm giữa đại diện cho nguy cơ béo phì với chỉ số BMI từ khoảng 25 đến 30; và **<span style="color:green">vùng màu xanh lá cây</span>** ở phía trên đại diện cho mức cân nặng khỏe mạnh hoặc thiếu cân với chỉ số BMI thấp hơn 25. Trên biểu đồ còn có đường cong màu xám chạy qua các mức độ BMI theo tuổi, đánh dấu các mức 5th, 50th, và 95th percentile. Văn bản trong hình gồm các cụm từ '**Béo phì**', '**Nguy cơ béo phì**', '**Sức khỏe dinh dưỡng tốt**', và '**Thiếu cân**' để mô tả từng khu vực tương ứng với chỉ số BMI.
173
+
174
+ ### Example 04: Image Captioning
175
+
176
+ <!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/kXrR6s990p0EgphZEtEnJ.jpeg) -->
177
+
178
+ <div align="center">
179
+ <img src="images/langque_1.jpg" width="500"/>
180
+ </div>
181
+
182
+ Hình ảnh chụp một khung cảnh đồng quê Việt Nam với những nét đặc trưng riêng biệt. **<span style="color:green">Bối cảnh là một cánh đồng lúa xanh mướt, trải dài bất tận, được bao phủ bởi một lớp sương mù nhẹ nhàng. Phía xa là những dãy núi xanh ngắt, tạo nên một bức tranh thiên nhiên thơ mộng và trữ tình</span>**. Ở trung tâm bức ảnh, hai cậu bé đang ngồi trên lưng con trâu nước đen tuyền. Cậu bé phía trước mặc quần đỏ, đang cười tươi rói, trong khi cậu bé phía sau mặc quần đen, vẻ mặt trầm tư hơn. **<span style="color:blue">Con trâu nước đang đứng yên, đầu hướng về phía bên phải, nhìn về phía xa xăm</span>**. Phía bên phải hình ảnh, một người đàn ông đang cầm một cái chậu màu đen, đang đổ nước lên đầu mình. Nước từ chậu chảy xuống tạo thành những giọt nước li ti, tung tóe khắp không gian. Trên bầu trời, có những đám mây trắng bồng bềnh, tạo nên một khung cảnh thanh bình và lãng mạn. Ánh nắng vàng óng chiếu rọi xuống cánh đồng, tạo nên một bức tranh tuyệt đẹp.
183
+
184
+ ### Example 05: Visual Question Answering
185
+
186
+ <div align="center">
187
+ <img src="images/biencadoitheo_3.jpg" width="500"/>
188
+ </div>
189
+
190
+ - **User**: Hãy mô tả nội dung của bức ảnh này một cách thật chi tiết và không giải thích gì thêm
191
+
192
+ - **Assistant**: Bức ảnh là một hình vẽ minh họa đơn giản về một cô bé đang ôm một con gấu bông màu vàng. Cô bé có mái tóc đen ngắn, mặc váy đỏ và đi tất sọc trắng. Cô bé đứng ở giữa khung hình với tư thế ôm chặt gấu bông bằng cả hai tay. Gấu bông có đôi mắt to tròn và nụ cười tươi. Văn bản trong ảnh được chia thành hai phần: phần trên cùng là tiếng Anh và phần dưới là tiếng Việt. Nội dung văn bản như sau: **<span style="color:green">'Sofia's bear was old, tatty and very well loved.'** </span> (Có nghĩa là 'Con gấu bông của Sofia đã cũ kỹ và rách rưới nhưng cô bé rất yêu nó'). Dưới dòng chữ tiếng Anh là dòng chữ tiếng Việt: **<span style="color:green">'Sofia có một bạn gấu bông tuy đã cũ kỹ và sờn rách nhưng cô bé rất yêu quý nó.'** </span>. Bố cục tổng thể của bức ảnh khá đơn giản, tập trung vào nhân vật chính là cô bé và con gấu bông mà cô đang ôm. Màu sắc chủ đạo là các gam màu ấm áp như đỏ, vàng và nâu nhạt, tạo cảm giác thân thiện và gần gũi.
193
+
194
+ ### Example 06: Multi-turns Visual Question Answering and Reasoning
195
+
196
+ <div align="center">
197
+ <img src="images/henkham_0.jpg" width="500"/>
198
+ </div>
199
+
200
+ - **User**: Hãy trích xuất toàn bộ chi tiết của bức ảnh này theo đúng thứ tự của nội dung trong ảnh. Không bình luận gì thêm.
201
+ Lưu ý:
202
+ 1. Nếu có chữ trong ảnh thì phải trích xuất ra hết theo thứ tự và định dạng của câu chữ.
203
+ 2. Nếu có bảng biểu (table) thì phải trả lại định dạng như bảng biểu trong hình và text của nó.
204
+ 3. Nếu bức ảnh không có bất kỳ ký tự nào, hãy diễn giải bức ảnh đó.
205
+ 4. Chỉ trả lại bằng tiếng Việt.
206
+
207
+ - **Assistant**: Bức ảnh là một giấy hẹn khám lại từ **<span style="color:blue">Bệnh viện Ung Bướu Nghệ An</span>**. Giấy hẹn được cấp cho bệnh nhân **<span style="color:blue">Nguyễn Thị Luân</span>**, sinh ngày 03/07/1976, hiện đang cư trú tại Xã Nghĩa Khánh - Huyện Nghĩa Đàn - Nghệ An. Giấy hẹn ghi rõ thông tin về lần sử dụng thuốc BHYT từ ngày 01/03/2016 đến 16/12/2016, với **<span style="color:blue">số thẻ BHYT là CN 3 40 40 168 60413</span>**. Ngày khám ban đầu là 16/12/2016 và giờ khám là buổi trưa. Giấy hẹn khám lại vào ngày 17/01/2017 hoặc trước khi hết thời hạn sử dụng thẻ bảo hiểm y tế nếu có dấu hiệu triệu chứng bất thường. Giấy hẹn cũng chỉ áp dụng cho một lần khám duy nhất trong vòng 10 ngày làm việc kể từ ngày được hẹn khám lại. Bên dưới phần thông tin bệnh nhân là chữ ký của Trưởng khoa, bác sĩ điều trị và con dấu đỏ của Bệnh viện Ung Bướu Nghệ An. Ngoài ra, trên góc phải của giấy hẹn còn có dòng chữ '**<span style="color:blue">Tổng đài tư vấn 1900.6172**</span>**' cùng logo của bệnh viện.
208
+
209
+ - **User**: Hãy cho biết thông tin của bệnh nhân.
210
+
211
+ - **Assistant**: Bệnh nhân là Nguyễn Thị Luân, sinh ngày 03/07/1976, hiện đang cư trú tại **<span style="color:blue">Xã Nghĩa Khánh - Huyện Nghĩa Đàn - Nghệ An</span>**. Số thẻ bảo hiểm y tế của bệnh nhân là **<span style="color:blue">CN 3 40 40 168 60413</span>**.
212
+
213
+ - **User**: Bác sĩ điều trị cho bệnh nhân là ai?
214
+
215
+ - **Assistant**: Bác sĩ điều trị cho bệnh nhân là bác sĩ **<span style="color:blue">Nguyễn Văn Việt</span>**.
216
+
217
+ - **User**: Đến năm 2024 chị Luân bao nhiêu tuổi?
218
+
219
+ - **Assistant**: Nguyễn Thị Luân sinh ngày **<span style="color:blue">03/07/1976</span>**, tính đến năm 2024 chị sẽ **<span style="color:blue">48 tuổi</span>**.
220
+
221
+ - **User**: Vậy năm 2020 chị Luân mấy tuổi?
222
 
223
+ - **Assistant**: **<span style="color:blue">Vào năm 2020</span>**, Nguyễn Thị Luân sẽ **<span style="color:blue">44 tuổi năm 2020 cách năm 2024 4 năm</span>**.
224
 
225
+ ### Example 07: Multi-images Visual Question Answering
226
 
227
+ <div style="display: flex; justify-content: center; gap: 10px;">
228
+ <img src="images/langque_0.jpg" width="350"/>
229
+ <img src="images/langque_1.jpg" width="350"/>
230
+ </div>
231
 
232
+ - **User**: Hãy trích xuất toàn bộ chi tiết của các bức ảnh này theo đúng thứ tự của nội dung không bình luận
233
 
234
+ - **Assistant**: Hình ảnh đầu tiên là một bức tranh sơn dầu với phong cách tả thực, thể hiện khung cảnh làng quê Việt Nam thanh bình. Bức tranh được vẽ với gam màu tươi sáng, rực rỡ, tạo cảm giác ấm áp, vui tươi. Nền trời xanh biếc, điểm xuyết những đám mây trắng bồng bềnh. Phía xa là dãy núi xanh ngắt, thấp thoáng những ngôi nhà mái ngói đỏ au. Giữa khung cảnh là dòng sông uốn lượn, chảy hiền hòa giữa cánh đồng lúa chín vàng óng ánh. Hai bên bờ sông là những hàng cây xanh mát rượi, tạo nên một bức tranh thiên nhiên thơ mộng, hữu tình. Trên dòng sông, có hai người đang ngồi trên thuyền nhỏ, tay cầm lái, hướng về phía trước. Bên cạnh đó, còn có một người phụ nữ đang đi trên con đường đất nhỏ, hướng về phía làng. Hình ảnh này gợi lên một cuộc sống thanh bình, yên ả của người dân làng quê Việt Nam.
235
 
236
+ Hình ảnh thứ hai là một bức ảnh chụp chân dung, thể hiện sự hồn nhiên, trong sáng của tuổi thơ. Trong ảnh, có ba nhân vật chính: hai cậu bé và một người đàn ông. Cậu bé lớn hơn đang cưỡi trên lưng con trâu đen, hai tay nắm chặt vào dây cương, vẻ mặt đầy thích thú. Cậu bé nhỏ hơn ngồi sau lưng cậu bạn lớn, tay cầm một chiếc mũ rộng vành, nhìn về phía trước với ánh mắt ngây thơ. Người đàn ông đứng ở phía sau, mặc quần đùi, tay cầm một cái chậu nước, đang đổ nước lên đầu hai cậu bé. Bối cảnh của bức ảnh là một cánh đồng cỏ xanh mướt, phía xa là những hàng cây xanh mát. Ánh nắng ban mai chiếu rọi xuống cánh đồng, tạo nên một khung cảnh đẹp như tranh vẽ.
237
 
238
+ Bức ảnh này mang đến cho người xem cảm giác vui tươi, hồn nhiên, thể hiện nét đẹp văn hóa truyền thống của người nông dân Việt Nam.
239
+
240
+ ## Quickstart 🎮
241
+ [![Open In Colab](https://colab.research.google.com/assets/colab-badge.svg)](https://colab.research.google.com/drive/1CnSxtWDLG48-NQh7wk9_z8WI7J4OY_Ci?usp=sharing)
242
+
243
+ Install the necessary packages:
244
+ ```curl
245
+ python -m pip install git+https://github.com/huggingface/transformers accelerate
246
+ python -m pip install qwen-vl-utils
247
+ pip install flash-attn --no-build-isolation
248
+ ```
249
+
250
+ Then you can use `EraX-VL-7B-V1` like this:
251
+ ```python
252
+ import os
253
+ import base64
254
+ import json
255
+
256
+ import cv2
257
+ import numpy as np
258
+ import matplotlib.pyplot as plt
259
+
260
+ import torch
261
+ from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor
262
+ from qwen_vl_utils import process_vision_info
263
+
264
+ model_path = "erax/EraX-VL-7B-V1"
265
+
266
+ model = Qwen2VLForConditionalGeneration.from_pretrained(
267
+ model_path,
268
+ torch_dtype=torch.bfloat16,
269
+ attn_implementation="eager", # replace with "flash_attention_2" if your GPU is Ampere architecture
270
+ device_map="auto"
271
+ )
272
+
273
+ tokenizer = AutoTokenizer.from_pretrained(model_path)
274
+ # processor = AutoProcessor.from_pretrained(model_path)
275
+
276
+ min_pixels = 256 * 28 * 28
277
+ max_pixels = 1280 * 28 * 28
278
+ processor_model = "erax/EraX-VL-7B-V1"
279
+ processor = AutoProcessor.from_pretrained(
280
+ processor_model,
281
+ min_pixels=min_pixels,
282
+ max_pixels=max_pixels,
283
+ )
284
+
285
+ image_path ="image.jpg"
286
+
287
+ with open(image_path, "rb") as f:
288
+ encoded_image = base64.b64encode(f.read())
289
+ decoded_image_text = encoded_image.decode('utf-8')
290
+ base64_data = f"data:image;base64,{decoded_image_text}"
291
+
292
+ messages = [
293
+ {
294
+ "role": "user",
295
+ "content": [
296
+ {
297
+ "type": "image",
298
+ "image": base64_data,
299
+ },
300
+ {
301
+ "type": "text",
302
+ "text": "Diễn tả nội dung bức ảnh như 1 bác sỹ giỏi."
303
+ # "Diễn tả nội dung bức ảnh này bằng định dạng json."
304
+ },
305
+ ],
306
+ }
307
+ ]
308
+
309
+ # Prepare prompt
310
+ tokenized_text = processor.apply_chat_template(
311
+ messages, tokenize=False, add_generation_prompt=True
312
+ )
313
+
314
+ image_inputs, video_inputs = process_vision_info(messages)
315
+
316
+ inputs = processor(
317
+ text=[ tokenized_text],
318
+ images=image_inputs,
319
+ videos=video_inputs,
320
+ padding=True,
321
+ return_tensors="pt",
322
+ )
323
+ inputs = inputs.to("cuda")
324
+
325
+ # Generation configs
326
+ generation_config = model.generation_config
327
+ generation_config.do_sample = True
328
+ generation_config.temperature = 0.2
329
+ generation_config.top_k = 1
330
+ generation_config.top_p = 0.001
331
+ generation_config.max_new_tokens = 2048
332
+ generation_config.repetition_penalty = 1.1
333
+
334
+ # Inference
335
+ generated_ids = model.generate(**inputs, generation_config=generation_config)
336
+ generated_ids_trimmed = [
337
+ out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
338
+ ]
339
+ output_text = processor.batch_decode(
340
+ generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
341
+ )
342
+
343
+ print(output_text[0])
344
+ ```
345
+
346
+ ## Acknowledgments 👏
347
+ We thank Khang Đoàn ([5CD-AI](https://huggingface.co/5CD-AI)) for his invaluable support in order to train `EraX-VL-7B-V1`. Our appreciation also goes to AAA JS Company for their support and resources, which significantly contributed to this project.
348
+
349
+ ## Citation 📝
350
+ <!-- - title={EraX-VL-7B-V1: A Highly Efficient Multimodal LLM for Vietnamese, especially for medical forms and bills.},
351
  - author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Dũng Hoàng and Thục Phạm and Nhật Phạm},
352
  - helpers={Khang Đoàn and AAA JS Company},
353
  - contact={[email protected]},
354
+ - organization={EraX} -->
355
+ If you find our project useful, we would appreciate it if you could star our repository and cite our work as follows:
356
+ ```
357
+ @article{EraX-VL-7B-V1,
358
+ title={EraX-VL-7B-V1: A Highly Efficient Multimodal LLM for Vietnamese, especially for medical forms and bills},
359
+ author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Hoàng Tiến Dũng and Phạm Đình Thục and Phạm Huỳnh Nhật},
360
+ organization={EraX},
361
+ year={2024},
362
+ url={https://huggingface.co/erax-ai/EraX-VL-7B-V1}
363
+ }
364
+ ```
365
+
366
+ ## References 📑
367
+ [1] Qwen team. Qwen2-VL. 2024.
368
+
369
+ [2] Bai, Jinze, et al. "Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond." arXiv preprint arXiv:2308.12966 (2023).
370
+
371
+ [4] Yang, An, et al. "Qwen2 technical report." arXiv preprint arXiv:2407.10671 (2024).
372
+
373
+ [5] Chen, Zhe, et al. "Internvl: Scaling up vision foundation models and aligning for generic visual-linguistic tasks." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024.
374
 
375
+ [6] Chen, Zhe, et al. "How far are we to gpt-4v? closing the gap to commercial multimodal models with open-source suites." arXiv preprint arXiv:2404.16821 (2024).
 
376
 
377
+ [7] Tran, Chi, and Huong Le Thanh. "LaVy: Vietnamese Multimodal Large Language Model." arXiv preprint arXiv:2404.07922 (2024).
378
 
 
379
 
380
+ ## Contact 🤝
381
+ - For correspondence regarding this work or inquiry for API trial, please contact Nguyễn Anh Nguyên at [[email protected]]([email protected]).
382
+ - We will also release our Github codes shortly.