一、线性代数基础知识
1、逆序的定义:
逆序是一个与排列相关的概念。
由自然数1,2…,n组成的不重复的每一种有确定次序的排列,称为一个n级排列(简称为排列);或者一般...
分类:
其他好文 时间:
2016-11-20 11:26:41
阅读次数:
302
Exercise 1:Linear Regression 实现一个线性回归 关于如何实现一个线性回归,请参考:http://www.cnblogs.com/hapjin/p/6079012.html Exercise 2:Logistic Regression 实现一个逻辑回归 问题描述:用逻辑回归 ...
分类:
其他好文 时间:
2016-11-18 23:09:50
阅读次数:
361
PCA(Principal Component Analysis)主成成分分析法,是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要特征分量,常用于高维数据的降维。网上关于PCA的文章有很多,但是大多数只描述了PCA的分析过程,而没有讲述其中的 ...
分类:
其他好文 时间:
2016-11-18 00:07:14
阅读次数:
232
Learning Course: One variable logistic regression optimization 单变量(只有一个特征)的用于分类的逻辑回归的cost function的最小值求解, here: x=[x1;x2]; y={0,1}; theta=[theta(1);th ...
分类:
其他好文 时间:
2016-11-14 15:19:03
阅读次数:
248
首先,提出一个问题:如何构造非线性分类器? 可以从线性回归到逻辑回归的变化过程中得到启发,逻辑回归本质上是增加了一个逻辑函数g(z)来映射输入x到{0,1}。 逻辑回归的计算过程可以简化为上图,圈表示一个计算节点,即激活函数(activation function)g(z),这里取Sigmoid函数 ...
分类:
其他好文 时间:
2016-11-10 18:42:13
阅读次数:
256
逻辑回归是一个分类算法,它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字,却不是一个回归算法。那为什么有“回归”这个误导性的词呢?个人认为,虽然逻辑回归是分类模型,但是它的原理里面却残留着回归模型的影子,本文对逻辑回归原理做一个总结。 1. 从线性回归到逻辑回归 我们知道,线性回归的模 ...
分类:
其他好文 时间:
2016-11-04 23:48:36
阅读次数:
233
整理一下之前所学过的关于回归问题的思路: 问题引入:房屋估价,给定新的房屋信息,预测出相应的房屋价格; 学习过程:构建模型h(θ); 线性回归:最小二乘法、梯度下降法、线性模型的概率解释; 局部加权回归:带权重的线性回归、权值的钟形函数; 逻辑回归:分类方法、梯度上升法、牛顿法、引出感知机学习算法; ...
分类:
其他好文 时间:
2016-11-03 01:53:41
阅读次数:
463
1.1 定义 广义:设M是n阶方阵,如果对任何非零向量z,都有zTMz> 0,其中zT 表示z的转置,就称M正定矩阵。[1] 狭义定义:一个n阶的实对称矩阵M是正定的的条件是当且仅当对于所有的非零实系数向量z,都有zTMz> 0。其中zT表示z的转置。 1.2 定理与性质 l 正定矩阵在合同变换下可 ...
分类:
其他好文 时间:
2016-11-02 00:44:49
阅读次数:
319
from : http://blog.csdn.net/lsldd/article/details/41551797 在本系列文章中提到过用Python开始机器学习(3:数据拟合与广义线性回归)中提到过回归算法来进行数值预测。逻辑回归算法本质还是回归,只是其引入了逻辑函数来帮助其分类。实践发现,逻辑 ...
分类:
编程语言 时间:
2016-10-27 00:25:30
阅读次数:
380
分类器是数据挖掘中对样本进行分类的方法的统称,包含决策树、逻辑回归、朴素贝叶斯、神经网络等算法。 分类器的构造和实施步骤: 选定样本(正负样本),分成训练样本和测试样本两部分。 在训练样本上执行分类器算法,生成分类模型。 在测试样本上执行分类模型,生成预测结果。 根据预测结果,计算必要的评估指标,评 ...
分类:
其他好文 时间:
2016-10-26 13:58:07
阅读次数:
139