广义线性模型是把自变量的线性预测函数当作因变量的估计值。在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。 Contents 1. 广义线性模型的认识 2. ...
分类：
其他好文 时间：
2017-06-05 19:23:26
阅读次数：
319
二分类问题Sigmod 在 logistic 回归中，我们的训练集由 个已标记的样本构成： ，其中输入特征。（我们对符号的约定如下：特征向量 的维度为 ，其中 对应截距项 。） 由于 logistic 回归是针对二分类问题的，因此类标记 。假设函数(hypothesis function) 如下： ...
分类：
其他好文 时间：
2017-06-04 15:52:12
阅读次数：
268
神经网络 在正式使用Keras之前，我们先来熟悉一下什么是神经网络，这样才能知道自己究竟在做什么。“神经网络”一词其实是对生物大脑打的比方，大脑里也有“神经网络”，神经网络的构成单元就是“神经元”。 感知器 感知器是最简单的一种神经网络，由单个神经元构成。就像生物神经元一样，具有树突和轴突。人工神经 ...
分类：
其他好文 时间：
2017-06-04 13:50:30
阅读次数：
234
一、线性回归（Liner Regression） 利用数理统计中的回归分析，来确定两种或两种以上变量间相互依赖的定量关系的统计方法。 线性回归是用最小平方函数对一个或多个自变量和因变量之间进行建模。 导入和使用比较简单。 预测房屋价格。 二、多项式回归（Polynomial Regression） ...
分类：
其他好文 时间：
2017-06-03 16:18:16
阅读次数：
278
Locally weighted regression，局部加权回归 对于线性回归，问题是选取的特征的个数和什么特征会极大影响fit的效果。 比如下图，是分布使用下面几个模型进行拟合的 ： 通常会认为第一个模型underfitting（欠拟合），而第三个模型overfitting（过拟合），第二个模 ...
分类：
其他好文 时间：
2017-06-03 14:01:33
阅读次数：
337
一、引言 这段时间学习《机器学习》，学到第5章的“Logistic回归”，感觉相当吃力。追本溯源，从“Logistic回归”到“线性回归”，再到“最小二乘法”。最终定格到了《高等数学》（第六版·下册）第九章第10节“最小二乘法”，这才了解到最小二乘法背后的数学原理出自哪里。 “最小二乘法”是最优化问 ...
分类：
其他好文 时间：
2017-06-02 13:30:08
阅读次数：
205
回归与梯度下降： 回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等，这个将在后面去讲。 用一个很简单的例子来说明回归，这 ...
分类：
其他好文 时间：
2017-06-01 21:01:20
阅读次数：
256
CART 简介 Classification And Regression Tree, 分类回归树，简称CART。通过前面文章的介绍知道了决策树的几种生成方法比如ID3, C4.5等。CART是决策树有一种常见生成方法，既可以用于分类，也可以用于回归。CART假设决策树是二叉树，即，特征取值为“是” ...
分类：
其他好文 时间：
2017-05-31 11:56:17
阅读次数：
256
Datasets（r自带数据包） 作者：王书宇 作品来源：百度百科 dating from #配对的病例对照数据，用于条件logistic回归 InsectSprays #使用不同杀虫剂时昆虫数目 iris #3种鸢尾花形态数据 LifeCycleSavings #50个国家的存款率 longley ...
分类：
编程语言 时间：
2017-05-30 21:57:28
阅读次数：
2548
CS229, Locally weighted linear regression, ...
分类：
其他好文 时间：
2017-05-30 18:04:09
阅读次数：
163
