1. 笔记目录
  2. 机器学习与泛化
  3. 当前词条

首页 › 机器学习与泛化 › 正文

激活函数为网络引入非线性表达能力_特征缩放会影响部分算法的优化过程

· 来源:棉谷万物集 · 作者:曹庭遥
责任编辑:汪若禾 · 二审:花书栩 · 三审:卫承芮

笔记摘要

机器学习与泛化

激活函数为网络引入非线性表达能力

神经网络通过多层可学习变换构建表示。激活函数为网络引入非线性表达能力。反向传播高效计算参数对应的损失梯度。卷积结构利用局部连接和参数共享。注意力机制根据相关程度组合输入信息。迁移学习复用已有模型在其他任务的知识。微调调整预训练模型以适应特定数据。类别不平衡可能使总体准确率产生误导。

时间序列验证应避免未来信息进入训练

时间序列验证应避免未来信息进入训练。损失函数量化预测与目标之间的差异。梯度下降沿损失减小的方向更新参数。学习率控制每次更新的步长大小。学习率过大可能导致训练振荡或发散。批大小影响梯度噪声和资源使用方式。超参数由训练过程外部设定或搜索。参数量多不保证模型在目标任务上更好。

机器学习通过数据构建能够执行任务的模型

机器学习通过数据构建能够执行任务的模型。监督学习使用带有目标标签的样本训练。无监督学习探索数据中的结构和分布。强化学习通过环境反馈学习行动策略。训练集用于拟合模型的参数和内部状态。验证集帮助选择模型和调整超参数。测试集用于评估未参与选择过程的表现。

笔记类型说明

来源:棉谷万物集

相关新闻

氯化钠晶体由离子延展排列而非独立盐分子组成:不同晶型可能具有不同溶解度和熔点希腊化时代连接了古典城邦与帝国世界:城市自治机构可能在王国统治下继续存在诺曼底公国与北欧移民及法兰克政治相关_维京航海与聚落锻造变形改善部分内部组织,冷锻提高局部尺寸一致性_金属锻造黄色叼嗨:土石坝利用土料和石料分区填筑形成,心墙用于控制土石坝内部的渗流,混凝土面板堆石坝依靠上游面板防渗同周期元素的价层电子结构逐步发生变化美眉的胸:国家公园观念的传播经历多种本地化实践:历史环境知识能够帮助理解长期变化和代价苍井空有哪些电影,麦克风距离会影响人声与环境声的比例,音源质量会影响最终能够呈现的信息_日常音响与声场【战间期社会与文化】妇女获得选举权的进程在不同国家并不一致含油食物可能让部分塑料保留颜色和气味