[基础知识】Loss值的意义以及和训练参数调整后的变化

admin

Loss是反映的目标图像和预测图象之间的差异，注意这个差异是自身重建图像和目标图像之间的差异。所以间接反映的是能够把原图重建出来的准确度。但是Loss值不能直接反应模型的优劣。
Loss值用来判断的主要用途是：在同样参数（包括素材、训练参数设置）不变的情况下，Loss值应该是总体逐渐处于下降趋势，这才是训练过程中，用梯度在逐渐更新模型，向着正确的方向进展的指标
-------------------------------------------
【更换参数后Loss值的变化】

更换素材：更换素材之后Los之会发生变化。如果素材之间内差异很大，或者和模型之前学习的素材差异很大，Loss值会变高。和模型之前学到的素材差异小，则Loss变小
素材增强：启用随机翻转、颜色增强、或者随机扭曲、缩放等选项之后，素材会进行随机改变增加输入数据的多样性，这样也或导致Loss值升高
只训练遮罩内区域：只训练遮罩内区域这个选项开启之后，程序会只是对遮罩内的区域计算像素差异损失，总Loss值会降低很多

启嘴眼优先选项：启用该选项之后，对嘴巴和眼睛区域的像素差异，乘以数十倍后加入总体Loss值，所以总Loss会发生较大变化

启用GAN：生成对抗网络启用后，会额外增加一个loss项到总Loss中，所以Loss值也会升高

优化器选项：比如学习率、bs对loss值没有影响，但是对于loss更新速度会有影响