1.代码 %%共轭梯度法（用于求解正定对称方程组） %%线性方程组M*X = b，M是方阵，X0是初始解向量,epsilon是控制精度 function CGM = Conjugate_gradient_method(M,b,X0,epsilon) m = size(M);up = 1000;e = ...
分类：
其他好文 时间：
2019-12-30 14:18:32
阅读次数：
142
图像的边界信息一般通过灰度值突变来体现，所以图像边缘提取一般通过捕捉灰度突变的方法来实现，捕捉灰度突变可以通过求微分来实现 导数越大说明变化越大，边缘信号越强 1.Sobel算子 也叫离散微分算子，一阶微分算子，求导算子，先做高斯平滑在做微分求导 可以在各个方向上求图像的梯度 如水平方向 Gx=[- ...
分类：
其他好文 时间：
2019-12-26 12:53:23
阅读次数：
143
系列博客，原文在笔者所维护的github上：https://aka.ms/beginnerAI， 点击star加星不要吝啬，星越多笔者越努力。 第2章 神经网络中的三个基本概念 2.0 通俗地理解三大概念 这三大概念是：反向传播，梯度下降，损失函数。 神经网络训练的最基本的思想就是：先“猜”一个结果 ...
分类：
其他好文 时间：
2019-12-20 11:52:06
阅读次数：
460
SGDSolver类简介 Solver类用于网络参数的更新，而SGDSolver类实现了优化方法中的随机梯度下降法（stochastic gradient descent），此外还具备缩放、正则化梯度等功能。caffe中其他的优化方法都是SGDSolver类的派生类，重载了基类的 函数，用于各自计算 ...
分类：
其他好文 时间：
2019-12-19 10:04:52
阅读次数：
96
线性回归的定义 利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式 线性回归的分类 线性关系 非线性关系 损失函数 最小二乘法 线性回归优化方法 正规方程 梯度下降法 正规方程 -- 一蹴而就 利用矩阵的逆,转置进行一步求解 只是适合样本和特征比较少的情 ...
假期找了几本关于机器学习的书，将一些比较重要的核心公式整体到这里。模型描述特征空间假设， 寻找线性系数 $ theta $ 以希望用一个线性函数逼近目标向量。逼近的效果好坏叫做 Cost Function， 下面列出的MSE便是其中一种。Linear Regression梯度下降其中 带有正则项Ri... ...
分类：
系统相关 时间：
2019-12-14 09:50:37
阅读次数：
113
一、【微积分】 基础概念（极限、可微与可导、全导数与偏导数）：只要学微积分，就必须要明白的概念，否则后面什么都无法继续学习。函数求导：求导是梯度的基础，而梯度是 AI 算法的基础，因此求导非常重要！必须要搞清楚概念，并学会常见函数的导函数求法。链式法则：符合函数求导法则，反向传播算法的理论基础。泰勒 ...
分类：
其他好文 时间：
2019-12-11 17:13:30
阅读次数：
100
在上一节中，我们介绍了Pytorch的基本知识，如数据格式，梯度，损失等。 本节中，我们将介绍如何使用Pytorch来搭建一个实用的神经网络。 搭建一个神经网络并训练，大致有这么四个部分： 准备数据，搭建模型，评估函数，优化网络权重 1.数据准备 数据准备在上一篇中已讲过，这里就不多赘述了。 2.搭 ...
分类：
其他好文 时间：
2019-12-11 12:50:52
阅读次数：
113
假设(基于二维) 训练集 $$ \begin{bmatrix} 1&x_{11}&{\cdots}&x_{1n}\\ 1&x_{21}&{\cdots}&x_{2n}\\ {\vdots}&{\vdots}&{\ddots}&{\vdots}\\ 1&x_{m1}&{\cdots}&x_{mn}\\ ...
分类：
编程语言 时间：
2019-12-10 22:18:40
阅读次数：
126
系列博客，原文在笔者所维护的github上：https://aka.ms/beginnerAI， 点击star加星不要吝啬，星越多笔者越努力。 4.5 梯度下降的三种形式 我们比较一下目前我们用三种方法得到的w和b的值，见表4 2。 表4 2 三种方法的结果比较 |方法|w|b| | | | | | ...
分类：
其他好文 时间：
2019-12-10 13:01:03
阅读次数：
105
