Overview
本次课程介绍了如何评价神经网络的表现，以及调参和避免过拟合的方法，旨在帮助大家优化神经网络模型。
神经网络评价的必要性
- 神经网络训练中可能因多种原因导致学习效率降低或无法学到规律。
- 评价神经网络可帮助发现并解决数据、参数等问题。
数据集的划分
- 数据集通常分为训练集（70%）和测试集（30%）。
- 训练集用于模型学习，测试集用于评价模型泛化能力。
评价指标与可视化
- 误差曲线显示预测误差随训练时间的变化，优秀模型误差趋于稳定。
- 精确度曲线反映分类问题中预测正确的比率（精度越高越好）。
- 回归问题中，用R2分数衡量预测精度，最大值为100%。
其他常用评分标准
- F1分数用于评估类别分布不均的数据精度。
- 未来课程会详细介绍其他评分标准。
过拟合现象与解决方法
- 过拟合指模型在训练集表现好但在测试集表现差。
- 训练误差小于测试误差时易发生过拟合。
- 常用解决方法包括L1、L2正则化和Dropout方法。
参数调优与交叉验证
- 交叉验证通过不同参数组 合来比较误差值或精度，选出最优参数。
- 参数如神经层数应结合误差和计算资源消耗综合权衡。
- 选择误差可接受且资源消耗较低的模型结构最优。
Key Terms & Definitions
- 训练集 — 用于模型训练的数据子集。
- 测试集 — 用于评估模型泛化能力的数据子集。
- 误差曲线 — 展示模型预测误差随训练进程变化的曲线。
- 精确度（准确率） — 分类模型预测正确的样本比例。
- R2分数 — 回归问题中反映预测与真实值拟合度的指标。
- F1分数 — 加权平均精确率和召回率的评价指标。
- 过拟合 — 模型对训练集适应过度，测试集表现不佳。
- 正则化（L1、L2） — 控制模型复杂度、减少过拟合的方法。
- Dropout — 在训练中随机忽略部分神经元以防过拟合。
- 交叉验证 — 用于模型参数选择和性能评估的技术。
Action Items / Next Steps
- 了解并练习数据集划分与误差、精度的可视化。
- 阅读并尝试使用L1、L2正则化和Dropout防止过拟合。
- 实践交叉验证调优神经网络参数配置。
- 关注后续课程学习更多机器学习评价标准。