CougarFlow梯度优化算法说明

BQZhang

本帖最后由 BQZhang 于 2013-3-22 16:09 编辑 CougarFlow通过梯度优化算法快速查找误差最小值，其具体的过程如下： （1）假设调整参数和拟合误差之间的关系如图1所示 图1 （2）开始进行查找最小误差，先随机选择一个初始点，然后进行计算，得到对应的拟合误差（图2）。 图2 （3）为了查看误差趋势，需要另一个点来确认其趋势。再初始点附近找一个扰动点，然后计算其误差值（图3）。 图3 （4）根据两个点的计算值，大致估算其趋势，暂命名为趋势1（图4）。并确定一个最小值（图5）。 图4    图5 （5）对确定的最小值对应调整参数进行计算拟合误差，发现实际拟合误差比趋势1确定的最小值要大（图6）。 图6 （6）继续在该点附近扰动（图7），然后建立趋势2，并确定一个最小值（图8）。 图7 图8 （7）重复（5）、（6）步骤，计算最小值对比误差（图9），扰动计算，建立趋势n，确定最小误差点（图10、图11）。 图9 图10 图11 （8）当趋势n的最小值与 该值对应调整参数计算的拟合误差一致，确认找到最小拟合误差（图12）。 图12

chutianshu

谢谢分享