老朋友了，还用多说什么吗？点击下面的链接复习咯： 17. 随机梯度下降算法之经典变种 18. SVM—核函数与松弛变量 19. 主题模型 20. PCA最小平方误差理论 21. 分类、排序、回归模型的评估 22. 特征工程—结构化数据 23. 神经网络训练中的批量归一化 24. 随机梯度下降法 你可 ...
分类：
其他好文 时间：
2018-02-27 21:32:28
阅读次数：
212
梯度下降法 一种无约束的优化算法 1.1梯度 在微积分里面，对多元函数的参数求?偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。 for example . 几何意义： 函数变化增加最快的方向，换句话说，沿梯度向量的方向，容易找到函数的最大值。梯度向量相反的方向，是函数减小最快的方向， ...
分类：
系统相关 时间：
2018-02-04 22:36:26
阅读次数：
249
介绍在稀疏表示（稀疏分解）中用K-SVD字典学习来获取字典的方法 ...
分类：
其他好文 时间：
2018-01-27 13:30:36
阅读次数：
200
在机器学习课上，Doctor夏弥 在详解了梯度下降法之后，又给出了牛顿法来求极值。当时我们却是一脸懵的，回来温习时发现，这本该就是个高中知识，丢人丢到国外了哦！ 如下图所示的曲线，我们需要求的是f(x)=的解： 而对于一脸懵的原因，我想是因为我们忘记了高中所学的点斜式，直接贴一张高中数学讲义： 因为 ...
分类：
其他好文 时间：
2018-01-25 00:31:18
阅读次数：
403
十七、大规模机器学习(Large Scale Machine Learning) 17.1 大型数据集的学习 17.2 随机梯度下降法 17.3 小批量梯度下降 17.4 随机梯度下降收敛 17.5 在线学习 17.6 映射化简和数据并行 十八、应用实例：图片文字识别(Application Exa ...
分类：
其他好文 时间：
2018-01-17 00:54:52
阅读次数：
309
四、多变量线性回归(Linear Regression with Multiple Variables) 4.1 多维特征 4.2 多变量梯度下降 4.3 梯度下降法实践1 特征缩放 4.4 梯度下降法实践2 学习率 4.5 特征和多项式回归 4.6 正规方程 4.7 正规方程及不可逆性（可选） 五 ...
分类：
其他好文 时间：
2018-01-17 00:42:24
阅读次数：
374
import numpy as np import random def genData(numPoints,bias,variance): x = np.zeros(shape=(numPoints,2)) y = np.zeros(shape=(numPoints)) for i in rang... ...
分类：
其他好文 时间：
2018-01-07 14:21:44
阅读次数：
249
1.梯度下降法的三种形式Batch Gradient Desecnt、Stochastic Gradient Desecnt、Min-Batch Gradient Desecnt及其总结 详见：Poll的笔记 写的非常清楚，看一看就能明白 2.关于梯度下降的优化算法 详见：机器之心深度解读最流行的优 ...
分类：
编程语言 时间：
2018-01-06 14:16:30
阅读次数：
170
简述梯度下降法又被称为最速下降法(Steepest descend method)，其理论基础是梯度的概念。梯度与方向导数的关系为：梯度的方向与取得最大方向导数值的方向一致，而梯度的模就是函数在该点的方向导数的最大值。现在假设我们要求函数的最值，采用梯度下降法，如图所示：梯度下降的相关概念 在详细了... ...
分类：
编程语言 时间：
2018-01-01 21:54:50
阅读次数：
299
title: 感知器算法做模式识别 date: 2017 12 23 21:04:54 tags: 模式识别 categories: c++ 感知器算法是线性分类器中的一种。 这种算法的基本思想是： 对于初始的或者迭代中的增广权矢量W，用训练模式检验其合理性。当不合理时，对其进行校正，利用梯度下降法 ...
分类：
编程语言 时间：
2017-12-23 23:07:15
阅读次数：
173
