license: mit datasets:
- AISkywalker/music_poet --- 歌词生成系统
- 南京农业大学机器学习课程设计
AIGC创意文本生成,使用LoRA和强化学习进行微调。
项目结构
代码文件
code/__main__.py
: 主程序入口,启动GUI界面code/_MyModel.py
: 核心模型实现,加载DeepSeek/Qwen模型和LoRA适配器code/UI.py
: PyQt5实现的用户界面code/reward.py
: 强化学习的奖励函数实现code/GRPO.ipynb
: 基于规则的策略优化训练流程code/data_process.py
: 数据处理脚本code/LORA.py
: LoRA模型实现code/LORA_with_CoT.py
: 带思维链的LoRA实现
数据文件夹
data/
: 存放训练数据(CoTdata.txt, DSdata.txt等)data/CoTdata.txt
: 带思维链的训练数据data/DSdata.txt
: 关键词:原文训练数据data/processed_data.txt
: 处理后的训练数据
模型文件夹
DS_LoRA/
: 基础DeepSeek模型的LoRA适配器DS_RL_model/
: 强化学习微调的DeepSeek模型Qwen_LoRA/
: 基础Qwen模型的LoRA适配器Qwen_CoT_LoRA/
: 带思维链的基础Qwen模型适配器
使用方法
- 安装依赖: 推荐使用conda
- conda create -name Goodmusic python==3.11 -y
- conda activate Goodmusic
下载Pytorch(cuda 12.6)
- pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
下载其他依赖
- pip install -r requirements.txt
或者使用.env的虚拟环境使用 uv 工具加速下载
- uv pip install -r requirements.txt
运行程序: python code/main.py
在GUI界面输入关键词,生成歌词
模型训练
- 数据准备: 将训练数据放入data/文件夹
- 运行GRPO.ipynb进行模型训练
- 训练好的模型会保存在对应模型文件夹
Inference Providers
NEW
This model isn't deployed by any Inference Provider.
🙋
Ask for provider support
HF Inference deployability: The model has no library tag.