逻辑回归是一种回归的方法，可以说是线性回归映射到（0， 1）之间的线性回归，适合两类分类，以及在给出分类的时候能够一同给出分到该类别的概率大小。线性回归模型如下：用sigmoid函数映射到(0, 1)区间如下：那么可以得到以下条件概率：那么给定一个样本x，它的似然函数为对数似然函数为接下来对w求导，...
分类：
其他好文 时间：
2015-05-05 23:20:02
阅读次数：
133
回归问题的条件/前提：1） 收集的数据2） 如果的模型，即一个函数，这个函数里含有未知的參数，通过学习，能够预计出參数。然后利用这个模型去预測/分类新的数据。1. 线性回归如果 特征 和 结果 都满足线性。即不大于一次方。这个是针对 收集的数据而言。收集的数据中，每个分量，就能够看做一个特征数据。每...
分类：
其他好文 时间：
2015-04-30 15:44:26
阅读次数：
321
在大致了解了机器学习的算法分类（监督式、非监督式以及增强学习）和梯度算法后，今天我们来了解下拟合度和最大似然估计的相关问题。一、最小二乘法的拟合度
监督式学习中一类典型的应用就是回归问题，基本的就是线性回归，即用一条直线去逼近训练集合。最小二乘法就是根据已..
分类：
其他好文 时间：
2015-04-28 00:14:45
阅读次数：
181
在广告推荐系统中，利用用户和广告之间的信息作为预测的特征
预测的过程其实就是一个二分类的问题，主要就是判定一个用户对这个广告点击或者是不点击的概率是多少
而这个过程是一个伯努利函数，整个过程是一个伯努利分布
而在逻辑回归中主要是在线性回归的基础上利用了一个逻辑函数sigmod，而为什么要用这个函数，逻辑回归与线性回归之间的关系：
1 广义线性模型：
指数家...
分类：
其他好文 时间：
2015-04-26 18:25:38
阅读次数：
149
某些数据挖掘方法能够直接处理分类自变量，但很多数据挖掘方法都只能处理数值自变量，如线性回归、神经网络等，使用这些方法时就需要把分类自变量转换为数值自变量。对于定序自变量，最常用的一种转换是按各类别的序号直接将该变量转换为数值自变量。对于名义自变量，最常用的转换是将该变量转换为哑变量。例如，对于性别而...
分类：
其他好文 时间：
2015-04-26 16:26:15
阅读次数：
113
自己总结的机器学习基础算法，和相应的python代码实现，直接上传word和python代码
机器学习算法基础及Python实现
目录
一 机器学习概述...
4
1.1 统计学习...
4
1.2 监督学习...
4
1.3 模型评估与选择...
4
1.4 模型的泛化能力...
5
二 预测算法...
5
1 一元线性回归...
5
1.1 为什么...
分类：
其他好文 时间：
2015-04-25 22:47:56
阅读次数：
187
梯度下降法的基本思想是函数沿着其梯度方向增加最快，反之，沿着其梯度反方向减小最快。在前面的线性回归和逻辑回归中，都采用了梯度下降法来求解。梯度下降的迭代公式为：θj=θj?α?J(θ)?θj 在回归算法的实验中，梯度下降的步长α为0.01，当时也指出了该步长是通过多次时间找到的，且换一组数据后，.....
分类：
其他好文 时间：
2015-04-20 22:22:53
阅读次数：
972
