摘要 本文是对 Andrew Ng 在 Coursera 上的机器学习课程中 Backpropagation Algorithm 一小节的延伸。文章分三个部分：第一部分给出一个简单的神经网络模型和 Backpropagation（以下简称 BP）算法的具体流程。第二部分以分别计算第一层和第二层中的第 ...
分类：
编程语言 时间：
2017-08-06 21:50:10
阅读次数：
311
博客已经迁移至Marcovaldo’s blog (http://marcovaldong.github.io/) Andrew Ng的Machine Learning比較简单，已经看完。林田轩的机器学习基石很多其它的是从概率论的角度来介绍机器学习，之前的视频已经听了大半。但好多都是模棱两可。如今从 ...
分类：
其他好文 时间：
2017-08-06 14:11:43
阅读次数：
764
在分类问题中我们如果： 他们都是广义线性模型中的一个样例，在理解广义线性模型之前须要先理解指数分布族。 指数分布族（The Exponential Family） 假设一个分布能够用例如以下公式表达，那么这个分布就属于指数分布族： 公式中y是随机变量；h(x)称为基础度量值（base measure ...
分类：
其他好文 时间：
2017-08-05 17:46:34
阅读次数：
157
梯度下降法解逻辑斯蒂回归 本文是Andrew Ng在Coursera的机器学习课程的笔记。 Logistic回归属于分类模型。回顾线性回归，输出的是连续的实数，而Logistic回归输出的是[0,1]区间的概率值，通过概率值来判断因变量应该是1还是0。因此，虽然名字中带着“回归”（输出范围常为连续实 ...
分类：
其他好文 时间：
2017-07-07 17:28:17
阅读次数：
190
本文主要解说局部加权(线性)回归。在解说局部加权线性回归之前，先解说两个概念：欠拟合、过拟合。由此引出局部加权线性回归算法。 欠拟合、过拟合 例如以下图中三个拟合模型。第一个是一个线性模型。对训练数据拟合不够好，损失函数取值较大。如图中第二个模型，假设我们在线性模型上加一个新特征项，拟合结果就会好一 ...
分类：
其他好文 时间：
2017-06-23 14:17:27
阅读次数：
164
************************************** 注：本系列博客是博主学习Stanford大学 Andrew Ng 教授的《机器学习》课程笔记。博主深感学过课程后，不进行总结非常easy遗忘。依据课程加上自己对不明确问题的补充遂有此系列博客。本系列博客包含线性回归、逻辑回 ...
分类：
其他好文 时间：
2017-06-21 13:38:13
阅读次数：
169
实例 首先举个样例。如果我们有一个二手房交易记录的数据集。已知房屋面积、卧室数量和房屋的交易价格，例如以下表： 假如有一个房子要卖，我们希望通过上表中的数据估算这个房子的价格。这个问题就是典型的回归问题，这边文章主要讲回归中的线性回归问题。 线性回归（Linear Regression） 首先要明确 ...
分类：
其他好文 时间：
2017-06-16 21:58:30
阅读次数：
205
1.最小二乘法 注：这里假定你了解向量的求导公式，并且知道正态分布和中心极限定律（不知道的可以去数学知识索引翻翻） (线性)最小二乘回归解法： 损失函数：平方损失，这里的误差可能是多种独立因素加和造成的，所以我们假定其符合均值为0的高斯分布，继而可以推出平方损失。参考Andrew Ng机器学习公开课 ...
分类：
其他好文 时间：
2017-06-01 10:35:58
阅读次数：
255
线性回归（linear regression）实践篇 之前一段时间在coursera看了Andrew ng的机器学习的课程，感觉还不错，算是入门了。这次打算以该课程的作业为主线，对机器学习基本知识做一下总结。小弟才学疏浅，如有错误。敬请指导。 问题原描写叙述： you will implement ...
分类：
其他好文 时间：
2017-05-26 16:04:42
阅读次数：
284
************************************** 注：本系列博客是博主学习Stanford大学 Andrew Ng 教授的《机器学习》课程笔记。博主深感学过课程后，不进行总结非常easy遗忘。依据课程加上自己对不明确问题的补充遂有此系列博客。本系列博客包含线性回归、逻辑回 ...
分类：
其他好文 时间：
2017-05-23 13:10:35
阅读次数：
321
