Update README.md
Browse files
README.md
CHANGED
@@ -4,7 +4,6 @@ language:
|
|
4 |
- vi
|
5 |
- en
|
6 |
- zh
|
7 |
-
|
8 |
base_model:
|
9 |
- Qwen/Qwen2-VL-7B-Instruct
|
10 |
library_name: transformers
|
@@ -15,37 +14,67 @@ tags:
|
|
15 |
- insurance
|
16 |
- ocr
|
17 |
- vietnamese
|
18 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
19 |
---
|
20 |
-
|
|
|
|
|
|
|
21 |
|
22 |
# EraX-VL-7B-V1
|
23 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
24 |
|
25 |
-
|
26 |
-
One of the strengths of the EraX-VL-7B is its ability to accurately recognize medical forms of all kinds, invoices, bills of sale, quotes, and medical records, among other things, which we believe will be very convenient for Hospitals, Clinics, Insurance Companies, and other applications.
|
27 |
-
EraX-VL-7B has been finetuned from the base Qwen/Qwen2-VL-7B-Instruct which we found to be of good quality and quite fluent in Vietnamese.
|
28 |
-
We will continue to develop and release better versions for free use, as well as share benchmarks in the near future.
|
29 |
|
30 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
31 |
|
32 |
-
|
33 |
-
|
34 |
-
- **Model type:** Transformers' multi-modal, +7 billions parameters.
|
35 |
-
- **Language(s) (NLP):** Vietnamese and Multilingual
|
36 |
-
- **License:** apache-2.0
|
37 |
-
- **Finetuned from model:** Qwen/Qwen2-VL-7B-Instruct
|
38 |
|
39 |
-
|
|
|
40 |
|
41 |
-
|
42 |
|
43 |
-
|
44 |
|
45 |
-
![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/Q5GkK8vuZ9zDVPkhwu4yH.jpeg)
|
|
|
46 |
|
47 |
-
|
48 |
-
|
|
|
|
|
|
|
49 |
{
|
50 |
"document": {
|
51 |
"header": {
|
@@ -76,11 +105,12 @@ Please use this Colab example: https://colab.research.google.com/drive/1CnSxtWDL
|
|
76 |
}
|
77 |
}
|
78 |
}
|
|
|
|
|
79 |
|
80 |
![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/IrX-QP67TZTcTl3vlp1uZ.png)
|
81 |
|
82 |
-
|
83 |
-
|
84 |
{
|
85 |
"header": {
|
86 |
"title": "PHIẾU KHÁM BỆNH",
|
@@ -134,33 +164,219 @@ Please use this Colab example: https://colab.research.google.com/drive/1CnSxtWDL
|
|
134 |
"dentist_signature": "(Ký và ghi rõ họ tên)"
|
135 |
}
|
136 |
}
|
|
|
|
|
137 |
|
138 |
![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/pSSqEOXQCsvz9H76CGQXa.jpeg)
|
139 |
|
140 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
141 |
|
142 |
-
|
143 |
|
144 |
-
|
145 |
|
146 |
-
|
|
|
|
|
|
|
147 |
|
148 |
-
|
149 |
|
|
|
150 |
|
151 |
-
|
152 |
|
153 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
154 |
- author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Dũng Hoàng and Thục Phạm and Nhật Phạm},
|
155 |
- helpers={Khang Đoàn and AAA JS Company},
|
156 |
- contact={[email protected]},
|
157 |
-
- organization={EraX}
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
158 |
|
159 |
-
|
160 |
-
[1] Yang, An, et al. "Qwen2 technical report." arXiv preprint arXiv:2407.10671 (2024).
|
161 |
|
162 |
-
[
|
163 |
|
164 |
-
[3] Chen, Zhe, et al. "How far are we to gpt-4v? closing the gap to commercial multimodal models with open-source suites." arXiv preprint arXiv:2404.16821 (2024).
|
165 |
|
166 |
-
|
|
|
|
|
|
4 |
- vi
|
5 |
- en
|
6 |
- zh
|
|
|
7 |
base_model:
|
8 |
- Qwen/Qwen2-VL-7B-Instruct
|
9 |
library_name: transformers
|
|
|
14 |
- insurance
|
15 |
- ocr
|
16 |
- vietnamese
|
17 |
+
- bcg
|
18 |
+
pipeline_tag: visual-question-answering
|
19 |
+
|
20 |
+
widget:
|
21 |
+
- src: images/photo-1-16505057982762025719470.webp
|
22 |
+
example_title: Test 1
|
23 |
+
- src: images/vt-don-thuoc-f0-7417.jpeg
|
24 |
+
example_title: Test 2
|
25 |
---
|
26 |
+
<p align="center">
|
27 |
+
<img src="https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/fNxjr3en_onzbOv0sghpE.jpeg" alt="Logo">
|
28 |
+
</p>
|
29 |
+
<!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/fNxjr3en_onzbOv0sghpE.jpeg) -->
|
30 |
|
31 |
# EraX-VL-7B-V1
|
32 |
+
## Introduction 🎉
|
33 |
+
|
34 |
+
<!-- <p style="text-align: justify;">
|
35 |
+
We are excited to introduce **EraX-VL-7B-v1**, a robust multimodal model for **OCR (optical character recognition)** and **VQA (visual question-answering)** that excels in various languages 🌍, with a particular focus on Vietnamese 🇻🇳. The `EraX-VL-7B` model stands out for its precise recognition capabilities across a range of documents 📝, including medical forms 🩺, invoices 🧾, bills of sale 💳, quotes 📄, and medical records 💊. This functionality is expected to be highly beneficial for hospitals 🏥, clinics 💉, insurance companies 🛡️, and other similar applications 📋. Built on the solid foundation of the [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)[1], which we found to be of high quality and fluent in Vietnamese, `EraX-VL-7B` has been fine-tuned to enhance its performance. We plan to continue improving and releasing new versions for free, along with sharing performance benchmarks in the near future.
|
36 |
+
|
37 |
+
One standing-out feature of **EraX-VL-7B-v1** is the capability to do multi-turn Q&A with pretty good reasoning! Thanks for the size of 7+ billions parameters of base model.
|
38 |
+
|
39 |
+
**EraX-VL-7B-V1** is a young member of our **EraX's LànhGPT** collection of LLM models.
|
40 |
+
</p> -->
|
41 |
+
|
42 |
+
We are excited to introduce **EraX-VL-7B-v1**, a robust multimodal model for **OCR (optical character recognition)** and **VQA (visual question-answering)** that excels in various languages 🌍, with a particular focus on Vietnamese 🇻🇳. The `EraX-VL-7B` model stands out for its precise recognition capabilities across a range of documents 📝, including medical forms 🩺, invoices 🧾, bills of sale 💳, quotes 📄, and medical records 💊. This functionality is expected to be highly beneficial for hospitals 🏥, clinics 💉, insurance companies 🛡️, and other similar applications 📋. Built on the solid foundation of the [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)[1], which we found to be of high quality and fluent in Vietnamese, `EraX-VL-7B` has been fine-tuned to enhance its performance. We plan to continue improving and releasing new versions for free, along with sharing performance benchmarks in the near future.
|
43 |
+
|
44 |
+
One standing-out feature of **EraX-VL-7B-v1** is the capability to do multi-turn Q&A with pretty good reasoning! Thanks for the size of 7+ billions parameters of base model.
|
45 |
|
46 |
+
**EraX-VL-7B-V1** is a young member of our **EraX's LànhGPT** collection of LLM models.
|
|
|
|
|
|
|
47 |
|
48 |
+
- **Developed by:**
|
49 |
+
- Nguyễn Anh Nguyên ([email protected])
|
50 |
+
- Nguyễn Hồ Nam (BCG)
|
51 |
+
- Hoàng Tiến Dũng ([email protected])
|
52 |
+
- Phạm Huỳnh Nhật ([email protected])
|
53 |
+
- Phạm Đình Thục ([email protected])
|
54 |
+
- **Funded by:** [Bamboo Capital Group](https://bamboocap.com.vn) and EraX
|
55 |
+
- **Model type:** Multimodal Transformer with over 7B parameters
|
56 |
+
- **Languages (NLP):** Primarily Vietnamese with multilingual capabilities
|
57 |
+
- **License:** Apache 2.0
|
58 |
+
- **Fine-tuned from:** [Qwen/Qwen2-VL-7B-Instruct](https://huggingface.co/Qwen/Qwen2-VL-7B-Instruct)
|
59 |
|
60 |
+
## Benchmarks 📊
|
61 |
+
Coming Soon!!!
|
|
|
|
|
|
|
|
|
62 |
|
63 |
+
## API trial 🎉
|
64 |
+
Please contact **[email protected]** for API access inquiry.
|
65 |
|
66 |
+
## Examples 🧩
|
67 |
|
68 |
+
### Example 01: OCR - Optical Character Recognition for Image
|
69 |
|
70 |
+
<!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/Q5GkK8vuZ9zDVPkhwu4yH.jpeg)
|
71 |
+
-->
|
72 |
|
73 |
+
<div align="center">
|
74 |
+
<img src="images/henkham_0.jpg" width="500"/>
|
75 |
+
</div>
|
76 |
+
|
77 |
+
```
|
78 |
{
|
79 |
"document": {
|
80 |
"header": {
|
|
|
105 |
}
|
106 |
}
|
107 |
}
|
108 |
+
```
|
109 |
+
### Example 02: OCR - Optical Character Recognition for PDF
|
110 |
|
111 |
![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/IrX-QP67TZTcTl3vlp1uZ.png)
|
112 |
|
113 |
+
```
|
|
|
114 |
{
|
115 |
"header": {
|
116 |
"title": "PHIẾU KHÁM BỆNH",
|
|
|
164 |
"dentist_signature": "(Ký và ghi rõ họ tên)"
|
165 |
}
|
166 |
}
|
167 |
+
```
|
168 |
+
### Example 03: Image Captioning
|
169 |
|
170 |
![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/pSSqEOXQCsvz9H76CGQXa.jpeg)
|
171 |
|
172 |
+
Hình ảnh là một biểu đồ thể hiện <span style="color:blue">mối quan hệ giữa chỉ số BMI (Body Mass Index) và tuổi</span>, được chia thành các mức độ khác nhau dựa trên phần trăm percentile. Trục hoành của biểu đồ đại diện cho tuổi từ 2 đến 20 năm, trong khi trục tung đại diện cho chỉ số BMI từ 10 đến 32. Biểu đồ này có ba khu vực chính: **<span style="color:red">vùng màu đỏ</span>** ở phía dưới cùng đại diện cho mức béo phì với chỉ số BMI cao hơn 30; **<span style="color:orange">vùng màu vàng</span>** nằm giữa đại diện cho nguy cơ béo phì với chỉ số BMI từ khoảng 25 đến 30; và **<span style="color:green">vùng màu xanh lá cây</span>** ở phía trên đại diện cho mức cân nặng khỏe mạnh hoặc thiếu cân với chỉ số BMI thấp hơn 25. Trên biểu đồ còn có đường cong màu xám chạy qua các mức độ BMI theo tuổi, đánh dấu các mức 5th, 50th, và 95th percentile. Văn bản trong hình gồm các cụm từ '**Béo phì**', '**Nguy cơ béo phì**', '**Sức khỏe dinh dưỡng tốt**', và '**Thiếu cân**' để mô tả từng khu vực tương ứng với chỉ số BMI.
|
173 |
+
|
174 |
+
### Example 04: Image Captioning
|
175 |
+
|
176 |
+
<!-- ![image/jpeg](https://cdn-uploads.huggingface.co/production/uploads/66e93d483745423cbb14c5ff/kXrR6s990p0EgphZEtEnJ.jpeg) -->
|
177 |
+
|
178 |
+
<div align="center">
|
179 |
+
<img src="images/langque_1.jpg" width="500"/>
|
180 |
+
</div>
|
181 |
+
|
182 |
+
Hình ảnh chụp một khung cảnh đồng quê Việt Nam với những nét đặc trưng riêng biệt. **<span style="color:green">Bối cảnh là một cánh đồng lúa xanh mướt, trải dài bất tận, được bao phủ bởi một lớp sương mù nhẹ nhàng. Phía xa là những dãy núi xanh ngắt, tạo nên một bức tranh thiên nhiên thơ mộng và trữ tình</span>**. Ở trung tâm bức ảnh, hai cậu bé đang ngồi trên lưng con trâu nước đen tuyền. Cậu bé phía trước mặc quần đỏ, đang cười tươi rói, trong khi cậu bé phía sau mặc quần đen, vẻ mặt trầm tư hơn. **<span style="color:blue">Con trâu nước đang đứng yên, đầu hướng về phía bên phải, nhìn về phía xa xăm</span>**. Phía bên phải hình ảnh, một người đàn ông đang cầm một cái chậu màu đen, đang đổ nước lên đầu mình. Nước từ chậu chảy xuống tạo thành những giọt nước li ti, tung tóe khắp không gian. Trên bầu trời, có những đám mây trắng bồng bềnh, tạo nên một khung cảnh thanh bình và lãng mạn. Ánh nắng vàng óng chiếu rọi xuống cánh đồng, tạo nên một bức tranh tuyệt đẹp.
|
183 |
+
|
184 |
+
### Example 05: Visual Question Answering
|
185 |
+
|
186 |
+
<div align="center">
|
187 |
+
<img src="images/biencadoitheo_3.jpg" width="500"/>
|
188 |
+
</div>
|
189 |
+
|
190 |
+
- **User**: Hãy mô tả nội dung của bức ảnh này một cách thật chi tiết và không giải thích gì thêm
|
191 |
+
|
192 |
+
- **Assistant**: Bức ảnh là một hình vẽ minh họa đơn giản về một cô bé đang ôm một con gấu bông màu vàng. Cô bé có mái tóc đen ngắn, mặc váy đỏ và đi tất sọc trắng. Cô bé đứng ở giữa khung hình với tư thế ôm chặt gấu bông bằng cả hai tay. Gấu bông có đôi mắt to tròn và nụ cười tươi. Văn bản trong ảnh được chia thành hai phần: phần trên cùng là tiếng Anh và phần dưới là tiếng Việt. Nội dung văn bản như sau: **<span style="color:green">'Sofia's bear was old, tatty and very well loved.'** </span> (Có nghĩa là 'Con gấu bông của Sofia đã cũ kỹ và rách rưới nhưng cô bé rất yêu nó'). Dưới dòng chữ tiếng Anh là dòng chữ tiếng Việt: **<span style="color:green">'Sofia có một bạn gấu bông tuy đã cũ kỹ và sờn rách nhưng cô bé rất yêu quý nó.'** </span>. Bố cục tổng thể của bức ảnh khá đơn giản, tập trung vào nhân vật chính là cô bé và con gấu bông mà cô đang ôm. Màu sắc chủ đạo là các gam màu ấm áp như đỏ, vàng và nâu nhạt, tạo cảm giác thân thiện và gần gũi.
|
193 |
+
|
194 |
+
### Example 06: Multi-turns Visual Question Answering and Reasoning
|
195 |
+
|
196 |
+
<div align="center">
|
197 |
+
<img src="images/henkham_0.jpg" width="500"/>
|
198 |
+
</div>
|
199 |
+
|
200 |
+
- **User**: Hãy trích xuất toàn bộ chi tiết của bức ảnh này theo đúng thứ tự của nội dung trong ảnh. Không bình luận gì thêm.
|
201 |
+
Lưu ý:
|
202 |
+
1. Nếu có chữ trong ảnh thì phải trích xuất ra hết theo thứ tự và định dạng của câu chữ.
|
203 |
+
2. Nếu có bảng biểu (table) thì phải trả lại định dạng như bảng biểu trong hình và text của nó.
|
204 |
+
3. Nếu bức ảnh không có bất kỳ ký tự nào, hãy diễn giải bức ảnh đó.
|
205 |
+
4. Chỉ trả lại bằng tiếng Việt.
|
206 |
+
|
207 |
+
- **Assistant**: Bức ảnh là một giấy hẹn khám lại từ **<span style="color:blue">Bệnh viện Ung Bướu Nghệ An</span>**. Giấy hẹn được cấp cho bệnh nhân **<span style="color:blue">Nguyễn Thị Luân</span>**, sinh ngày 03/07/1976, hiện đang cư trú tại Xã Nghĩa Khánh - Huyện Nghĩa Đàn - Nghệ An. Giấy hẹn ghi rõ thông tin về lần sử dụng thuốc BHYT từ ngày 01/03/2016 đến 16/12/2016, với **<span style="color:blue">số thẻ BHYT là CN 3 40 40 168 60413</span>**. Ngày khám ban đầu là 16/12/2016 và giờ khám là buổi trưa. Giấy hẹn khám lại vào ngày 17/01/2017 hoặc trước khi hết thời hạn sử dụng thẻ bảo hiểm y tế nếu có dấu hiệu triệu chứng bất thường. Giấy hẹn cũng chỉ áp dụng cho một lần khám duy nhất trong vòng 10 ngày làm việc kể từ ngày được hẹn khám lại. Bên dưới phần thông tin bệnh nhân là chữ ký của Trưởng khoa, bác sĩ điều trị và con dấu đỏ của Bệnh viện Ung Bướu Nghệ An. Ngoài ra, trên góc phải của giấy hẹn còn có dòng chữ '**<span style="color:blue">Tổng đài tư vấn 1900.6172**</span>**' cùng logo của bệnh viện.
|
208 |
+
|
209 |
+
- **User**: Hãy cho biết thông tin của bệnh nhân.
|
210 |
+
|
211 |
+
- **Assistant**: Bệnh nhân là Nguyễn Thị Luân, sinh ngày 03/07/1976, hiện đang cư trú tại **<span style="color:blue">Xã Nghĩa Khánh - Huyện Nghĩa Đàn - Nghệ An</span>**. Số thẻ bảo hiểm y tế của bệnh nhân là **<span style="color:blue">CN 3 40 40 168 60413</span>**.
|
212 |
+
|
213 |
+
- **User**: Bác sĩ điều trị cho bệnh nhân là ai?
|
214 |
+
|
215 |
+
- **Assistant**: Bác sĩ điều trị cho bệnh nhân là bác sĩ **<span style="color:blue">Nguyễn Văn Việt</span>**.
|
216 |
+
|
217 |
+
- **User**: Đến năm 2024 chị Luân bao nhiêu tuổi?
|
218 |
+
|
219 |
+
- **Assistant**: Nguyễn Thị Luân sinh ngày **<span style="color:blue">03/07/1976</span>**, tính đến năm 2024 chị sẽ **<span style="color:blue">48 tuổi</span>**.
|
220 |
+
|
221 |
+
- **User**: Vậy năm 2020 chị Luân mấy tuổi?
|
222 |
|
223 |
+
- **Assistant**: **<span style="color:blue">Vào năm 2020</span>**, Nguyễn Thị Luân sẽ **<span style="color:blue">44 tuổi vì năm 2020 cách năm 2024 4 năm</span>**.
|
224 |
|
225 |
+
### Example 07: Multi-images Visual Question Answering
|
226 |
|
227 |
+
<div style="display: flex; justify-content: center; gap: 10px;">
|
228 |
+
<img src="images/langque_0.jpg" width="350"/>
|
229 |
+
<img src="images/langque_1.jpg" width="350"/>
|
230 |
+
</div>
|
231 |
|
232 |
+
- **User**: Hãy trích xuất toàn bộ chi tiết của các bức ảnh này theo đúng thứ tự của nội dung và không bình luận gì
|
233 |
|
234 |
+
- **Assistant**: Hình ảnh đầu tiên là một bức tranh sơn dầu với phong cách tả thực, thể hiện khung cảnh làng quê Việt Nam thanh bình. Bức tranh được vẽ với gam màu tươi sáng, rực rỡ, tạo cảm giác ấm áp, vui tươi. Nền trời xanh biếc, điểm xuyết những đám mây trắng bồng bềnh. Phía xa là dãy núi xanh ngắt, thấp thoáng những ngôi nhà mái ngói đỏ au. Giữa khung cảnh là dòng sông uốn lượn, chảy hiền hòa giữa cánh đồng lúa chín vàng óng ánh. Hai bên bờ sông là những hàng cây xanh mát rượi, tạo nên một bức tranh thiên nhiên thơ mộng, hữu tình. Trên dòng sông, có hai người đang ngồi trên thuyền nhỏ, tay cầm lái, hướng về phía trước. Bên cạnh đó, còn có một người phụ nữ đang đi trên con đường đất nhỏ, hướng về phía làng. Hình ảnh này gợi lên một cuộc sống thanh bình, yên ả của người dân làng quê Việt Nam.
|
235 |
|
236 |
+
Hình ảnh thứ hai là một bức ảnh chụp chân dung, thể hiện sự hồn nhiên, trong sáng của tuổi thơ. Trong ảnh, có ba nhân vật chính: hai cậu bé và một người đàn ông. Cậu bé lớn hơn đang cưỡi trên lưng con trâu đen, hai tay nắm chặt vào dây cương, vẻ mặt đầy thích thú. Cậu bé nhỏ hơn ngồi sau lưng cậu bạn lớn, tay cầm một chiếc mũ rộng vành, nhìn về phía trước với ánh mắt ngây thơ. Người đàn ông đứng ở phía sau, mặc quần đùi, tay cầm một cái chậu nước, đang đổ nước lên đầu hai cậu bé. Bối cảnh của bức ảnh là một cánh đồng cỏ xanh mướt, phía xa là những hàng cây xanh mát. Ánh nắng ban mai chiếu rọi xuống cánh đồng, tạo nên một khung cảnh đẹp như tranh vẽ.
|
237 |
|
238 |
+
Bức ảnh này mang đến cho người xem cảm giác vui tươi, hồn nhiên, thể hiện nét đẹp văn hóa truyền thống của người nông dân Việt Nam.
|
239 |
+
|
240 |
+
## Quickstart 🎮
|
241 |
+
[![Open In Colab](https://colab.research.google.com/assets/colab-badge.svg)](https://colab.research.google.com/drive/1CnSxtWDLG48-NQh7wk9_z8WI7J4OY_Ci?usp=sharing)
|
242 |
+
|
243 |
+
Install the necessary packages:
|
244 |
+
```curl
|
245 |
+
python -m pip install git+https://github.com/huggingface/transformers accelerate
|
246 |
+
python -m pip install qwen-vl-utils
|
247 |
+
pip install flash-attn --no-build-isolation
|
248 |
+
```
|
249 |
+
|
250 |
+
Then you can use `EraX-VL-7B-V1` like this:
|
251 |
+
```python
|
252 |
+
import os
|
253 |
+
import base64
|
254 |
+
import json
|
255 |
+
|
256 |
+
import cv2
|
257 |
+
import numpy as np
|
258 |
+
import matplotlib.pyplot as plt
|
259 |
+
|
260 |
+
import torch
|
261 |
+
from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor
|
262 |
+
from qwen_vl_utils import process_vision_info
|
263 |
+
|
264 |
+
model_path = "erax/EraX-VL-7B-V1"
|
265 |
+
|
266 |
+
model = Qwen2VLForConditionalGeneration.from_pretrained(
|
267 |
+
model_path,
|
268 |
+
torch_dtype=torch.bfloat16,
|
269 |
+
attn_implementation="eager", # replace with "flash_attention_2" if your GPU is Ampere architecture
|
270 |
+
device_map="auto"
|
271 |
+
)
|
272 |
+
|
273 |
+
tokenizer = AutoTokenizer.from_pretrained(model_path)
|
274 |
+
# processor = AutoProcessor.from_pretrained(model_path)
|
275 |
+
|
276 |
+
min_pixels = 256 * 28 * 28
|
277 |
+
max_pixels = 1280 * 28 * 28
|
278 |
+
processor_model = "erax/EraX-VL-7B-V1"
|
279 |
+
processor = AutoProcessor.from_pretrained(
|
280 |
+
processor_model,
|
281 |
+
min_pixels=min_pixels,
|
282 |
+
max_pixels=max_pixels,
|
283 |
+
)
|
284 |
+
|
285 |
+
image_path ="image.jpg"
|
286 |
+
|
287 |
+
with open(image_path, "rb") as f:
|
288 |
+
encoded_image = base64.b64encode(f.read())
|
289 |
+
decoded_image_text = encoded_image.decode('utf-8')
|
290 |
+
base64_data = f"data:image;base64,{decoded_image_text}"
|
291 |
+
|
292 |
+
messages = [
|
293 |
+
{
|
294 |
+
"role": "user",
|
295 |
+
"content": [
|
296 |
+
{
|
297 |
+
"type": "image",
|
298 |
+
"image": base64_data,
|
299 |
+
},
|
300 |
+
{
|
301 |
+
"type": "text",
|
302 |
+
"text": "Diễn tả nội dung bức ảnh như 1 bác sỹ giỏi."
|
303 |
+
# "Diễn tả nội dung bức ảnh này bằng định dạng json."
|
304 |
+
},
|
305 |
+
],
|
306 |
+
}
|
307 |
+
]
|
308 |
+
|
309 |
+
# Prepare prompt
|
310 |
+
tokenized_text = processor.apply_chat_template(
|
311 |
+
messages, tokenize=False, add_generation_prompt=True
|
312 |
+
)
|
313 |
+
|
314 |
+
image_inputs, video_inputs = process_vision_info(messages)
|
315 |
+
|
316 |
+
inputs = processor(
|
317 |
+
text=[ tokenized_text],
|
318 |
+
images=image_inputs,
|
319 |
+
videos=video_inputs,
|
320 |
+
padding=True,
|
321 |
+
return_tensors="pt",
|
322 |
+
)
|
323 |
+
inputs = inputs.to("cuda")
|
324 |
+
|
325 |
+
# Generation configs
|
326 |
+
generation_config = model.generation_config
|
327 |
+
generation_config.do_sample = True
|
328 |
+
generation_config.temperature = 0.2
|
329 |
+
generation_config.top_k = 1
|
330 |
+
generation_config.top_p = 0.001
|
331 |
+
generation_config.max_new_tokens = 2048
|
332 |
+
generation_config.repetition_penalty = 1.1
|
333 |
+
|
334 |
+
# Inference
|
335 |
+
generated_ids = model.generate(**inputs, generation_config=generation_config)
|
336 |
+
generated_ids_trimmed = [
|
337 |
+
out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
|
338 |
+
]
|
339 |
+
output_text = processor.batch_decode(
|
340 |
+
generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
|
341 |
+
)
|
342 |
+
|
343 |
+
print(output_text[0])
|
344 |
+
```
|
345 |
+
|
346 |
+
## Acknowledgments 👏
|
347 |
+
We thank Khang Đoàn ([5CD-AI](https://huggingface.co/5CD-AI)) for his invaluable support in order to train `EraX-VL-7B-V1`. Our appreciation also goes to AAA JS Company for their support and resources, which significantly contributed to this project.
|
348 |
+
|
349 |
+
## Citation 📝
|
350 |
+
<!-- - title={EraX-VL-7B-V1: A Highly Efficient Multimodal LLM for Vietnamese, especially for medical forms and bills.},
|
351 |
- author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Dũng Hoàng and Thục Phạm and Nhật Phạm},
|
352 |
- helpers={Khang Đoàn and AAA JS Company},
|
353 |
- contact={[email protected]},
|
354 |
+
- organization={EraX} -->
|
355 |
+
If you find our project useful, we would appreciate it if you could star our repository and cite our work as follows:
|
356 |
+
```
|
357 |
+
@article{EraX-VL-7B-V1,
|
358 |
+
title={EraX-VL-7B-V1: A Highly Efficient Multimodal LLM for Vietnamese, especially for medical forms and bills},
|
359 |
+
author={Nguyễn Anh Nguyên and Nguyễn Hồ Nam (BCG) and Hoàng Tiến Dũng and Phạm Đình Thục and Phạm Huỳnh Nhật},
|
360 |
+
organization={EraX},
|
361 |
+
year={2024},
|
362 |
+
url={https://huggingface.co/erax-ai/EraX-VL-7B-V1}
|
363 |
+
}
|
364 |
+
```
|
365 |
+
|
366 |
+
## References 📑
|
367 |
+
[1] Qwen team. Qwen2-VL. 2024.
|
368 |
+
|
369 |
+
[2] Bai, Jinze, et al. "Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond." arXiv preprint arXiv:2308.12966 (2023).
|
370 |
+
|
371 |
+
[4] Yang, An, et al. "Qwen2 technical report." arXiv preprint arXiv:2407.10671 (2024).
|
372 |
+
|
373 |
+
[5] Chen, Zhe, et al. "Internvl: Scaling up vision foundation models and aligning for generic visual-linguistic tasks." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024.
|
374 |
|
375 |
+
[6] Chen, Zhe, et al. "How far are we to gpt-4v? closing the gap to commercial multimodal models with open-source suites." arXiv preprint arXiv:2404.16821 (2024).
|
|
|
376 |
|
377 |
+
[7] Tran, Chi, and Huong Le Thanh. "LaVy: Vietnamese Multimodal Large Language Model." arXiv preprint arXiv:2404.07922 (2024).
|
378 |
|
|
|
379 |
|
380 |
+
## Contact 🤝
|
381 |
+
- For correspondence regarding this work or inquiry for API trial, please contact Nguyễn Anh Nguyên at [[email protected]]([email protected]).
|
382 |
+
- We will also release our Github codes shortly.
|