分享
kohyo_ss Gui界面
输入“/”快速插入内容
kohyo_ss Gui界面
飞书用户9940
5月7日修改
Configuration 配置
如果是要新建一个配置文件,就需要在文件夹后面加上文件的名字,
然后点击保存,
就会在对应的目录生成。
Load/Save Config file
这个文件里面保存了完整的训练参数设置,
在model里面还有一个Dataset config file,也是可选的,这个是对于数据集参数的配置。
Accelerate launch 加速启动
这些设置主要控制训练的硬件资源利用和优化策略。
对于大多数普通的LoRA训练任务,使用默认设置就足够了。
如果您有特殊需求(如多GPU训练)或遇到性能问题,可能需要调整这些参数。
1.
Mixed precision: 混合精度训练设置。这里选择了fp16,意味着使用16位浮点数进行混合精度训练,可以加速训练并节省显存。
2.
Number of processes: 并行启动的进程数。这里设置为1,表示只使用单一进程进行训练。
3.
Number of machines: 用于训练的机器数量。设置为1表示只在单机上进行训练。
4.
Number of CPU threads per core: 每个进程使用的CPU线程数。滑块设置为2,意味着每个进程使用2个CPU线程。
5.
Dynamo backend: Dynamo JIT编译器的后端。设置为"no"表示不使用Dynamo优化。
6.
Dynamo mode: Dynamo优化模式。设置为"default"表示使用默认的优化模式。
7.
Dynamo use fullgraph: 是否使用Dynamo的完整图模式。未勾选。
8.
Dynamo use dynamic: 是否启用Dynamo的动态形状追踪。未勾选。
9.
Multi GPU: 是否使用多GPU分布式训练。未勾选,表示使用单GPU训练。
10.
GPU IDs: 用于训练的GPU ID列表。示例显示"0,1",但实际未填写,因为未启用多GPU。
11.
Main process port: 主进程通信端口。设置为0,通常表示自动选择可用端口。
12.
Extra accelerate launch arguments: 额外的accelerate启动参数。这里可以添加一些自定义的启动参数。
Model模型
Dataset config file(数据集配置文件):
•
这个文件专门用于配置数据集的细节。
•
它通常包含如下信息:
◦
数据集的路径
◦
图像分辨率
◦
数据增强设置(如翻转、裁剪等)