2016/10/6 1: 用自定义的weighted loss来看， 10000个batch仍然没有收敛； 2：仍然使用sigmoid cross entropy loss, 7 epoches 左右仍然收敛，对于7w数据； 3：改动loss， 避免nan loss的出现； 2016/12/6 1: ...
分类：
其他好文 时间：
2017-03-16 21:35:00
阅读次数：
435
介绍
hinge loss
code1 介绍本文将介绍hinge loss E(w)E(w)以及其梯度?E(w)\nabla E(w)。并利用批量梯度下降方法来优化hinge loss实现SVM多分类...
分类：
其他好文 时间：
2017-03-15 10:36:54
阅读次数：
1178
get_start_time（）函数在获取时间时候获取失败，因为if line.find('Solving') != -1:这个语句判断错误导致，具体解决办法： 将该函数改造成： def get_start_time(line_iterable, year): """Find start time ...
分类：
其他好文 时间：
2017-03-14 17:39:27
阅读次数：
1338
Svm相关： 1） SVM方法是通过一个非线性映射p，把样本空间映射到一个高维乃至无穷维的特征空间中（Hilbert空间），使得在原来的样本空间中非线性可分的问题转化为在特征空间中的线性可分的问题． 2） 逻辑回归和SVM的区别在于逻辑回归采用的是logistical loss，svm采用的是hin ...
分类：
其他好文 时间：
2017-03-12 12:51:05
阅读次数：
198
caffe 进行自己的imageNet训练分类： caffe 进行自己的imageNet训练分类： loss一直是87.3365,accuracy 一直是0，可能的原因是： 解决方法： http://blog.csdn.net/jkfdqjjy/article/details/52268565?lo ...
分类：
Web程序 时间：
2017-03-09 14:30:11
阅读次数：
3603
我这20MB的网速都下不下来，我觉得你还是放弃这个模型训练吧，谈费劲，看看得了，我就直接机翻粘过来得了，懒得校对了。 Alex的CIFAR-10教程，Caffe风格 Alex Krizhevsky的cuda-convnet详细介绍了模型定义，参数和培训程序，以便在CIFAR-10上获得良好的性能。这 ...
分类：
其他好文 时间：
2017-03-03 11:50:06
阅读次数：
390
题目描述 Farmer John suffered a terrible loss when giant Australian cockroaches ate the entirety of his hay inventory, leaving him with nothing to feed th ...
分类：
其他好文 时间：
2017-03-01 21:17:53
阅读次数：
170
虽然数学不是那么好，但还是要对这个经典算法真正推导一遍心里才安稳。 主要参考资料:ufldl 开始：首先要明确，反向传播算法，是为了计算loss相对于w,b的偏导数，以此来更新每次学习的ｗ,b，是一个巧妙地计算方法。 首先定义loss函数： 乍一看，这怎么求关于每个权值的偏导数呢？别急，反向传播算法 ...
分类：
编程语言 时间：
2017-02-26 00:07:48
阅读次数：
335
原文地址：http://sebastianruder.com/optimizing-gradient-descent/ 如果熟悉英文的话，强烈推荐阅读原文，毕竟翻译过程中因为个人理解有限，可能会有谬误，还望读者能不吝指出。另外，由于原文太长，分了两部分翻译，本篇主要是梯度下降优化算法的总结，下篇将会 ...
分类：
编程语言 时间：
2017-02-21 11:38:45
阅读次数：
329
实习题目 第二次报告: 枚举的优化 l 阅读群文件《程序设计导引及在线实践》8章枚举之8.1，8.2，8.4。 l 对于8.2题，可否继续改进？试用DevC++编写运行改进版程序，并描述你的改进算法，并贴上代码及注释。 l 完成ACM俱乐部作业：2015cup实习2枚举的优化 l 描述你的算法，注释 ...
分类：
编程语言 时间：
2017-02-19 21:55:20
阅读次数：
313
