神经网络如何利用反向传播进行学习?
data miningdatabasedata structure
神经网络是一系列算法，它通过模仿人脑工作方式的过程，努力识别一组数据中的基本关系。在这种方法中，神经网络代表神经元系统，例如有机或人工神经元。
神经网络是一种分析方法，它模仿认知系统和大脑神经服务的(假设)学习过程，能够在执行所谓的"从当前信息学习"过程后，根据其他观察结果预测新的观察结果(关于确定的变量)。
反向传播包含以下步骤:−
网络接收一个训练实例，并使用网络中的当前权重计算输出。
反向传播通过计算结果与预期结果(实际结果)之间的差异来计算误差。
误差通过网络反馈，权重被修改以最小化误差，因此得名反向传播，因为误差通过网络反馈回来。网络。
反向传播算法通过将每个训练实例上生成的值与实际值进行比较来计算网络的总误差。它可以改变输出层的权重来减少(但不能消除)误差。但是，算法尚未完成。
它可以将责任归咎于网络中的先前节点，并改变连接这些节点的权重，从而进一步减少整体误差。分配责任的具体结构并不重要。可以说，反向传播需要一个复杂的数值过程，需要对激活函数进行有限的导数运算。
这种改变权重的方法被称为广义 Delta 规则。使用广义 Delta 规则有两个基本参数。第一个是动量，它定义了每个单元内权重改变"方向"的趋势。它们正朝着这个方向前进。
也就是说，每个权重都会记住它之前是变大了还是变小了，而动量会试图保持它朝着同一个方向发展。动量较大的网络对需要反转权重的新训练实例的响应较慢。如果动量较小，则权重的振荡幅度会更大。
学习成本控制着权重变化的速度。调整学习成本的最佳方法是从较大的值开始，然后在网络训练过程中缓慢降低。最初，权重是随机的，因此较高的振荡幅度有利于接近最佳权重。然而，随着网络越来越接近最优解，学习成本必须降低，以便网络能够微调到大致的最优权重。
