我尝试了一些神经网络，想知道什么时候可以得到训练有素的模型。
首先，训练误差下降，并在一定时期内保持恒定，与验证误差相同。现在收敛了吗？
第二，训练误差在所有模拟时期都下降，而验证误差首先下降，但在10个时期后上升。我必须在那儿停下来吗？
在哪种情况下，我有一个训练有素的模型？什么是期望的行为？
谢谢
yangshenghan521 回答：神经网络的理想行为是什么？
理想情况下，您希望减少训练和验证错误。但是有时候，如果您训练过多（即您的模型为学习训练数据集而付出的努力太过努力），则可能会导致overfitting。这就是使用验证集来检查是否过度拟合数据集的全部目的。
在第一种情况下，由于训练和验证集的错误都在下降，因此模型训练得很好。但这并不意味着该模型已找到全局最小值（如果这是您要的）。
在第二种情况下，当验证错误开始增加之后，您的模型已开始过拟合数据集。因此，您可能要在此时停止训练，因为进一步训练会导致模型过拟合。这也称为early stopping。
希望这会有所帮助。