今天看到共轭梯度法的两种实现，一种称为fletcher-reeves（FR-CG）方法，另一种称为polak-ribiere（PR-CG）方法。在含体积蒙皮的模拟过程中，两者差别不大又对比了wolfe的c1，c2取值，发现c2取0.1时，共轭梯度法在初始阶段收敛较取0.45时快，但后期收敛慢在不含体...
分类：
其他好文 时间：
2015-04-20 06:53:47
阅读次数：
128
今天打算改进一维搜索算法要求一维搜索类做到以下几点：1.在失败时，能够返回失败的具体原因，以便根据不同情况分别处理2.尽可能找到使得函数充分下降的步长发现初始步长选得不是越小越好，太小的步长会出现数值误差，导致一维搜索出错能够把参数记下来下次使用当前采用了一些改进，包括1. 在共轭梯度法和牛顿法中，...
分类：
其他好文 时间：
2015-02-07 00:28:34
阅读次数：
222
今天把一维搜索和共轭梯度法加在牛顿法前面，发现模拟比较顺利了。这个是模拟的结果，从左到右硬度递增来自为知笔记(Wiz)附件列表rodCG.gifrodCG0.gifrodCG2.gif
分类：
其他好文 时间：
2015-02-05 17:54:29
阅读次数：
139
今天继续看Numerical Optimization这本书，在看第六章，实用牛顿法。6.1 提到“不准确”的牛顿法。意思是每次确定迭代方向都要解方程，很慢，实际上也不一定要解出非常精确的迭代方向。于是尝试用一些迭代解法（例如，共轭梯度法）去解 H*x + G = 0这个方程。6.2 提到通过共轭梯...
分类：
其他好文 时间：
2015-01-16 13:02:20
阅读次数：
135
L-BFGS算法比较适合在大规模的数值计算中，具备牛顿法收敛速度快的特点，但不需要牛顿法那样存储Hesse矩阵，因此节省了大量的空间以及计算资源。本文主要通过对于无约束最优化问题的一些常用算法总结，一步步的理解L-BFGS算法，本文按照最速下降法 - 牛顿法 - 共轭梯度法 - 拟牛顿法 - DFP...
分类：
其他好文 时间：
2014-10-14 17:37:39
阅读次数：
349
共轭梯度法（英语：Conjugate gradient method），是求解数学特定线性方程组的数值解的方法，其中那些矩阵为对称和正定。共轭梯度法是一个迭代方法，它适用于稀疏矩阵线性方程组，因为这些系统对于像Cholesky分解这样的直接方法太大了。这种方程组在数值求解偏微分方程时很常见。共轭梯度...
分类：
其他好文 时间：
2014-10-11 23:25:36
阅读次数：
431
