首页 › 机器学习与泛化 › 正文
春梦伊人,梯度下降沿损失减小的方向更新参数
笔记摘要
机器学习与泛化
召回率关注实际正样本被发现的比例
结合具体情况,也有人会关注94xxx。精确率关注预测为正的样本是否真正为正。关于禁处受辱的相关信息,也值得适当了解。召回率关注实际正样本被发现的比例。阈值改变会影响精确率和召回率之间权衡。概率校准检查预测概率与实际频率的对应。分布漂移使上线数据偏离训练时的条件。模型监控需要同时关注性能和数据质量。可解释方法帮助理解部分模型决策依据。模型应用应根据具体任务验证实际收益。
时间序列验证应避免未来信息进入训练
时间序列验证应避免未来信息进入训练。损失函数量化预测与目标之间的差异。梯度下降沿损失减小的方向更新参数。学习率控制每次更新的步长大小。学习率过大可能导致训练振荡或发散。批大小影响梯度噪声和资源使用方式。超参数由训练过程外部设定或搜索。参数量多不保证模型在目标任务上更好。实际阅读时,也可以留意捆绑视频的相关介绍。
数据泄漏会使评估结果高于真实应用水平
数据泄漏会使评估结果高于真实应用水平。特征是模型用于表达输入的重要属性。特征缩放会影响部分算法的优化过程。缺失值处理需要考虑缺失产生的机制。过拟合表示模型学习了不易泛化的细节。欠拟合表示模型未充分表达数据规律。正则化通过约束或惩罚降低过拟合倾向。交叉验证利用多个划分估计模型表现。
笔记类型说明
来源:琥珀湾知典