? 前置知识 矩阵、求导 知识地图 学习一个新事物之前,先问两个问题,我在哪里?我要去哪里?这两个问题可以避免我们迷失在知识的海洋里,所以在开始之前先看看地图。 此前我们已经为了解线性回归做了一点准备工作,现在开始正式进入主题, ...
分类:
其他好文 时间:
2019-01-17 00:33:39
阅读次数:
304
前置知识 求导 知识地图 逻辑回归是用于分类的算法,最小的分类问题是二元分类。猫与狗,好与坏,正常与异常。掌握逻辑回归的重点,是理解 S型函数 在算法中所发挥的作用,以及相关推导过程。 从一个例子开始 假设我们是信贷工作人员,有 ...
分类:
其他好文 时间:
2019-01-17 00:33:03
阅读次数:
267
继续补全模板。 要求 $$g(x) = ln f(x)$$ 两边求导, $$g'(x) = \frac{f'(x)}{f(x)}$$ 然后左转去把多项式求导和多项式求逆的模板复制过来,就可以计算出$g'(x)$,接下来再对$g'(x)$求不定积分即可。 虽然我也不是很会不定积分,但是这就是求导的逆过 ...
分类:
其他好文 时间:
2019-01-16 15:38:33
阅读次数:
194
第一部分:通货膨胀 1. 什么是通货膨胀? 通货膨胀的意思就是流通的货币过多,超过经济运行的需求,导致钱不值钱,钱的购买力下降了,相应地物价就上涨了。这个我们都有体会,也很好理解,就是钱越来越不值钱了。同样的钱能买的东西越来越少了。你5岁的时候存了10块钱,想着长大买100辣条一口气吃掉爽一把,没想 ...
分类:
其他好文 时间:
2019-01-13 17:11:05
阅读次数:
255
梯度下降: 对theta1, theta2, theta3 分别求最快梯度下降的方向,然后根据给定的学习率,进行theta1, theta2, theta3的参数跟新 假定目标函数 J(theta) = 1/2m * np.sum(h(theta) - y)^2 / len(X) 梯度下降的策略分为 ...
分类:
编程语言 时间:
2019-01-12 18:33:05
阅读次数:
202
1、逻辑回归其实可以称之为广义的线性回归,采用和线性回归类似的模型。但是逻辑回归解决的是一个分类问题,因此会对求出的y值做一个sigmod函数映射,然后根据预先设定的阈值进行标签处理。其中,使用sigmod函数将θTx映射一个0-1之间的值,和深度学习中的sigmod或者relu函数作用类似。 2、 ...
分类:
其他好文 时间:
2019-01-12 13:24:12
阅读次数:
163
回归是对一个或多个自变量和因变量之间的关系进行建模,求解的一种统计方法,更多关于回归的内容将在后续总结。本博主要总结如何利用激活函数中Sigmoid函数和梯度下降算法实现Logistic回归分类器对数据进行分类 1. Sigmoid函数 激活函数是对神经网络中某一部分神经元的非线性运算,使得神经网络 ...
分类:
其他好文 时间:
2019-01-10 15:31:23
阅读次数:
206
引例1 变速直线运动的速度 设质点运动位置的函数为 s = f(t) 为什么叫dy/dx呢 derivative n.衍生物,导数 二、导数的概念(幂函数求导-单侧导数-切线与法线方程) 函数可导性与连续性关系 连续却不一定可导 注意 f(x0)‘ ≠ f(x)’ (x0) 例9: 连续: 可导 * ...
分类:
其他好文 时间:
2019-01-01 17:23:17
阅读次数:
425
"矩阵求导相关资料" <! more 因为我们所求的都是梯度, 所以, 本文采用的求导方法为 分母布局 首先, 要求的拟合函数为 $$ \begin{align } y = X W + b \end{align } $$ 其中 $$ \begin{align } \mathbf{X}=\begin{ ...
分类:
其他好文 时间:
2019-01-01 12:30:37
阅读次数:
204
解答sicp的2.57习题。原书正文中列举了怎样对二项式求导的方法,本习题要求求导函数支持多项式。 其中的主要修改在于取 +/* 运算的第二个运算数:如果剩余的运算数大于1,则返回一个列表,并且在列表前加 +/* 运算符。 ...
分类:
其他好文 时间:
2018-12-31 11:20:56
阅读次数:
205