机器学习与泛化：无监督学习探索数据中的结构和分布

精确率关注预测为正的样本是否真正为正。召回率关注实际正样本被发现的比例。阈值改变会影响精确率和召回率之间权衡。概率校准检查预测概率与实际频率的对应。分布漂移使上线数据偏离训练时的条件。模型监控需要同时关注性能和数据质量。可解释方法帮助理解部分模型决策依据。模型应用应根据具体任务验证实际收益。

分类模型把输入映射到离散类别。回归模型预测连续数值或相关分布。聚类根据相似关系把样本组织成组。降维把高维数据转换为较低维表示。主成分分析寻找方差较大的线性方向。决策树通过条件分支划分特征空间。随机森林组合多棵树以改善泛化稳定性。梯度提升逐步叠加模型修正已有误差。

数据泄漏会使评估结果高于真实应用水平。特征是模型用于表达输入的重要属性。特征缩放会影响部分算法的优化过程。缺失值处理需要考虑缺失产生的机制。过拟合表示模型学习了不易泛化的细节。欠拟合表示模型未充分表达数据规律。正则化通过约束或惩罚降低过拟合倾向。交叉验证利用多个划分估计模型表现。