过拟合指模型在训练集上表现好但在未见数据上差,本质是记住了噪声而非规律;欠拟合指模型表达能力不足,连训练集都拟合不好。判断依据是学习曲线:训练误差低、验证误差高是过拟合;两者都高是欠拟合。
缓解过拟合:增加训练数据、数据增强、L1/L2 正则化、Dropout、早停、降低模型复杂度。缓解欠拟合:换更强的模型、增加特征、减小正则强度、延长训练。
易错点:过拟合不一定是模型太大——在小而噪的数据上中等模型也会过拟合;早停依赖可靠的验证集,验证集泄漏会让判断失效。追问方向:为什么数据增强等价于一种正则?交叉验证在这里起什么作用?
实践中先画训练/验证曲线定位问题,再对症下药,而不是盲目堆技巧。