上一个博文，我们讲了Linear Regression, gradient descent, normal equations和Locally weighted linear regression,这次博文我们重点来学习Logistic regression，这是机器学习非常重要的一种回归模型，可....
分类：
其他好文 时间：
2014-10-30 22:10:48
阅读次数：
273
这几天在看《统计学习方法》这本书，发现 梯度下降法在 感知机 等机器学习算法中有很重要的应用，所以就特别查了些资料。 一.介绍 梯度下降法（gradient descent）是求解无约束最优化问题的一种常用方法，有实现简单的优点。梯度下降法是迭代算法，每一步需要求解目标函数的梯度向量。二.应用...
分类：
其他好文 时间：
2014-10-30 20:54:29
阅读次数：
895
决策树的核心思想是：根据训练样本构建这样一棵树，使得其叶节点是分类标签，非叶节点是判断条件，这样对于一个未知样本，能在树上找到一条路径到达叶节点，就得到了它的分类。举个简单的例子，如何识别有毒的蘑菇？如果能够得到一棵这样的决策树，那么对于一个未知的蘑菇就很..
分类：
编程语言 时间：
2014-10-30 19:26:22
阅读次数：
338
安装 sudo yum install numpy from numpy import * 产生一个数组 random.rand(4,5) result: array([[ 0.79056842, ?0.31659893, ?0.34054779, ?0.97328131, ?0.32648329], ? ? ? ?[ 0.51585845, ?0.706...
分类：
编程语言 时间：
2014-10-30 17:27:38
阅读次数：
248
开始学习用python实现机器学习的算法，用到了numpy库，好多函数不清楚。google上找到numpy的官网，可以链接到numpy的reference：http://docs.scipy.org/doc/numpy/reference/这里仅记录学习过程中用到的：【转】配置python命令tab...
分类：
编程语言 时间：
2014-10-30 16:51:02
阅读次数：
170
k近邻（k-NearestNeighbor，KNN）算法，应该是机器学习里最基础的算法，其核心思想是：给定一个未知分类的样本，如果与它最相似的k个已知样本中的多数属于某一个分类，那么这个未知样本也属于这个分类。所谓相似，是指两个样本之间的欧氏距离小，其计算公式为：k近邻算法的优点..
分类：
编程语言 时间：
2014-10-30 15:30:23
阅读次数：
231
学习Andrew N.g的机器学习课程之后的简单实现.课程地址：https://class.coursera.org/ml-007不大会编辑公式，所以略去具体的推导，有疑惑的同学去看看Andrew 的课程吧，顺带一句，Andrew的课程实在是很赞。如果还有疑问，feel free to contac...
分类：
编程语言 时间：
2014-10-30 13:08:29
阅读次数：
348
数学基础（2节课）微积分极限，e，导数，微分，积分偏导数，方向导数，梯度极值，多元函数极值，多元函数泰勒展开无约束优化，约束优化拉格朗日乘子，对偶问题线性代数矩阵，行列式，初等变换线性相关，线性无关秩，特征值，特征向量正交向量、正交矩阵矩阵分解概率随机变量，概率密度函数，分布函数条件概率，全概率公式...
分类：
其他好文 时间：
2014-10-30 10:16:09
阅读次数：
185
本内容 来自微信公众平台：机器学习之窗 以及 http://www.cnblogs.com/kaituorensheng/p/3579347.html在模式识别领域中，最近邻居法（KNN算法，又译K-近邻算法）是将在特征空间中最接近的训练样本进行分类的方法。最近邻居法采用向量空间模型来分类，概念.....
分类：
编程语言 时间：
2014-10-29 18:58:24
阅读次数：
387
机器学习实战python因为图像处理的原因，初步学习机器学习，选用语言python，参考书籍《机器学习实战》环境：python3.4+ windows7 +64位系统首先，今天解决的是安装numpy1）安装python，这个比较简单，去官网下载个安装包就可以了，地址：https://www.pyth...
分类：
编程语言 时间：
2014-10-29 18:36:02
阅读次数：
235
