layout: post title: 梯度下降算法 subtitle: 批量梯度下降求解线下回归问题 date: 2017 12 01 author: Felix catalog: true tags: 机器学习 优化算法 c++ // // // 批量梯度下降算法实例：求解线性回归问题 // / ...
分类：
其他好文 时间：
2017-12-10 19:31:18
阅读次数：
216
在之前的几个例子中都出现了如上代码。 这个优化算法的参数就是学习效率。那么这个学习效率是什么意思，到底取什么样的值比较好呢？ 之前已经讲过，优化算法会反向修改函数中设置为Variable的变量值，使得误差逐步缩小。而这里的学习效率就是Variable更新变化的幅度。 如果幅度过大，参数就很可能跨过最 ...
分类：
其他好文 时间：
2017-12-08 14:20:43
阅读次数：
130
关于粒子群优化算法(PSO)的解释：http://blog.csdn.net/myarrow/article/details/51507671 （等网上各种参考资料） 用PSO找函数极值。 构造了一个二元函数，很明显，有极小值，在（50， 50）。 用五个粒子去找。每个点对应的函数输出值即视为粒子的 ...
分类：
编程语言 时间：
2017-12-04 19:11:28
阅读次数：
236
记录cousera上ng讲的deep learning课的笔记，第7课：Optimization algorithms ...
分类：
编程语言 时间：
2017-11-21 18:48:37
阅读次数：
355
摘要： 1.最小二乘法 2.梯度下降法 3.最大（对数）似然估计（MLE） 4.最大后验估计（MAP） 5.期望最大化算法（EM） 6.牛顿法 7.拟牛顿迭代（BFGS） 8.限制内存-拟牛顿迭代（L-BFGS） 9.深度学习中的梯度优化算法 ... ...
分类：
其他好文 时间：
2017-11-12 18:43:11
阅读次数：
324
TCP通信粘包问题分析和解决（全） 在socket网络程序中，TCP和UDP分别是面向连接和非面向连接的。因此TCP的socket编程，收发两端（客户端和服务器端）都要有成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将多次间隔较小、数据... ...
分类：
其他好文 时间：
2017-10-30 22:19:59
阅读次数：
320
最近打算看一看caffe实现的源码，因为发现好多工作都是基于改动网络来实现自己的的目的。比如变更目标函数以及网络结构，以实现图片风格转化或者达到更好的效果。 深度学习框架 https://mp.weixin.qq.com/s?__biz=MzI1NTE4NTUwOQ==&mid=2650325746 ...
分类：
其他好文 时间：
2017-10-23 22:14:53
阅读次数：
239
转载自http://www.cppblog.com/menjitianya/archive/2015/10/09/211980.html 目录 一、深度优先搜索 1、DFS 2、基于DFS的记忆化搜索 3、基于DFS的剪枝 1) 可行性剪枝 2) 最优性剪枝 4、基于DFS的A* （迭代加深，IDA ...
分类：
编程语言 时间：
2017-10-16 22:11:40
阅读次数：
215
基于上次发blog，有位朋友让我多写些基本概念，就利用这次详解伟大的SPFA算法来谈。以下是百科上的算法简介，很清楚，看一遍再继续对理解程序很有帮助！（当然后面我也会解释） SPFA（Shortest Path Faster Algorithm）（队列优化）算法是求单源最短路径的一种算法，它还有一个 ...
分类：
编程语言 时间：
2017-10-04 23:54:04
阅读次数：
415
一、作业解析 基于tcp文件流协议执行客户端的下载命令。 服务端： 客户端： 二、基于udp套接字 udp是无链接的，先启动哪一端都不会报错。UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。不会使用块的合并优化算法，, 由于UDP支持的是 ...
分类：
编程语言 时间：
2017-09-27 19:15:18
阅读次数：
181
