单变量线性回归 (Linear Regression with One Variable) 模型表示（Model Representation） 我们的第一个学习算法是线性回归算法 在这段视频中你会看到这个算法的概况 更重要的是你将会了解 监督学习过程完整的流程 让我们通过一个例子来开始 这个例子是 ...
分类：
其他好文 时间：
2019-12-08 15:31:08
阅读次数：
181
梯度下降：实现梯度下降、线性回归中的梯度下降 随机梯度下降：相关代码即调用 本文参考：公众号《数据科学家联盟》文章 转自：https://www.cnblogs.com/huangyc/p/9801261.html#_label1_0 一、概念 梯度下降(Gradient Descent, GD)不 ...
分类：
其他好文 时间：
2019-12-08 12:49:36
阅读次数：
116
系列博客，原文在笔者所维护的github上：https://aka.ms/beginnerAI， 点击star加星不要吝啬，星越多笔者越努力。 4.3 神经网络法 在梯度下降法中，我们简单讲述了一下神经网络做线性拟合的原理，即： 1. 初始化权重值 2. 根据权重值放出一个解 3. 根据均方差函数求 ...
分类：
其他好文 时间：
2019-12-06 13:18:19
阅读次数：
180
系列博客，原文在笔者所维护的github上：https://aka.ms/beginnerAI， 点击star加星不要吝啬，星越多笔者越努力。 4.2 梯度下降法 有了上一节的最小二乘法做基准，我们这次用梯度下降法求解w和b，从而可以比较二者的结果。 4.2.1 数学原理 在下面的公式中，我们规定x ...
分类：
其他好文 时间：
2019-12-05 13:04:24
阅读次数：
108
膨胀dilate void dilate(InputArray src,OutputArray dst,InputArray kernel,Point anchor=Point( 1, 1),int iterations=1,int borderType=BORDER_CONSTANT,const ...
分类：
其他好文 时间：
2019-12-03 23:39:01
阅读次数：
118
1. 梯度下降法介绍 1.1 梯度 在多元函数微分学中，我们都接触过梯度(Gradient)的概念。 回顾一下，什么是梯度？ 梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。 这是百度百科 ...
分类：
其他好文 时间：
2019-12-03 21:51:04
阅读次数：
104
模型泛化优化之 L1 L2 正则化. 涉及正则化认识, 梯度方向来理解, 交叉校验调参, L1 L2比较等 ...
分类：
其他好文 时间：
2019-12-03 01:28:41
阅读次数：
132
模型量化 什么是量化 模型的weights数据一般是float32的，量化即将他们转换为int8的。当然其实量化有很多种,主流是int8/fp16量化,其他的还有比如 二进制神经网络：在运行时具有二进制权重和激活的神经网络，以及在训练时计算参数的梯度。 三元权重网络：权重约束为+1,0和 1的神经网 ...
分类：
其他好文 时间：
2019-11-30 18:58:33
阅读次数：
224
1.梯度下降的场景假设： 假如你想从山顶下山，但是迷雾重重，你看不清楚前方的路，假设你每一步走的距离是一样的，你想要尽快下山，那么你该怎么走？ 这个问题就相当于梯度下降，每走一步，直接找坡度最大的方向，在步长一定的情况下，下降的高度是最多的，所以下山最快。 这里坡度最大的方向其实就是梯度下降的方向。 ...
分类：
其他好文 时间：
2019-11-30 14:06:02
阅读次数：
91
Tensor import torch x = torch.ones(2, 2, requires_grad=True) # 将其属性.requires_grad设置为True，它将开始追踪(track)在其上的所有操作。完成计算后，可以调用.backward()来完成所有梯度计算 print(x) ...
分类：
其他好文 时间：
2019-11-30 13:48:29
阅读次数：
102
