在Deep Learning中，往往loss function是非凸的，没有解析解，我们需要通过优化方法来求解。Caffe通过协调的进行整个网络的前向传播推倒以及后向梯度对参数进行更新，试图减小损失。
Caffe已经封装好了三种优化方法，分别是Stochastic Gradient Descent (SGD), AdaptiveGradient (ADAGRAD), and Nesterov’...
分类：
其他好文 时间：
2015-01-21 09:06:32
阅读次数：
1047
【转载】Deep Learning（深度学习）学习笔记整理
分类：
其他好文 时间：
2015-01-20 17:17:12
阅读次数：
258
原文：http://developer.51cto.com/art/201501/464174.htm编者按：本文收集了百来篇关于机器学习和深度学习的资料，含各种文档，视频，源码等。而且原文也会不定期的更新，望看到文章的朋友能够学到更多。《Brief History of Machine Learn...
分类：
其他好文 时间：
2015-01-20 17:12:20
阅读次数：
744
极客公园创新大会在北京开幕，百度深度学习研究院（IDL）副院长余凯发表演讲，阐述大数据时代，人工智能与深度学习的发展。
分类：
其他好文 时间：
2015-01-18 22:29:09
阅读次数：
242
具体的安装过程可以参考 官网的Installation，以及网友分享的一些安装教程，教程一，教程二，教程三。
我在这里主要记录下我在安装的过程中碰到的一些问题，以及解决方法（部分网上没有提到）,而不是整个安装的流程。由于自己是linux小白，安装caffe花了好几天时间，期间好几次想放弃，还好我坚持下来了，写这篇博客只是希望网友如果也遇到这样的问题，可以从我这里找到答案。
一、试验...
分类：
系统相关 时间：
2015-01-18 17:16:07
阅读次数：
414
【DeepLearning工具】Fedora下安装Theano
author：wepon
@blog：http://blog.csdn.net/u012162613/article/details/42651233
1、Theano简介
Theano是深度学习的一个python库，在deeplearning.net上有它的tutorial，它可以方便我们写深度学习模型，它提供了...
分类：
其他好文 时间：
2015-01-13 09:06:51
阅读次数：
222
最近深度学习如日中天，虽然很强大，但其训练起来却是昂贵的，费时费力。最新发布的GraphLab Create 1.1 及1.2使深度学习变得超级简单。它不需要你自己在选择模型和调参上成为专家，就可以玩转神经网络。基于输入数据，neuralnet_classifier.create()函数会自动选择一个网络架构并设置合理的参数值。其实并非所有问题都得从头开始去训练一个深度模型，通过简单移除已训练好的DNN的输出层，将传播到输出层的信号作为特征喂给任何一种分类器便可完成我们的一些分类任务。...
分类：
其他好文 时间：
2015-01-12 11:04:23
阅读次数：
267
前段时间一直在关注 CNN 的实现，查看了 caffe 的代码以及 convnet2 的代码。目前对单机多卡的内容比较感兴趣，因此特别关注 convnet2 关于 multi-GPU 的支持。
其中 cuda-convnet2 的项目地址发布在：Google Code：cuda-convnet2
关于 multi-GPU 的一篇比较重要的论文就是：One weird trick for parallelizing convolutional neural networks
本文也将针对这篇文章给出分析。...
分类：
Web程序 时间：
2015-01-06 11:54:57
阅读次数：
234
来源：从机器学习谈起 本文首先介绍了互联网界与机器学习大牛结合的趋势，以及使用机器学习的相关应用，接着以一个“等人故事”展开对机器学习的介绍。介绍中首先是机器学习的概念与定义，然后是机器学习的相关学科，机器学习中包含的各类学习算法，接着介绍机器学习与大数据的关系，机器学习的新子类深度学习，最后探讨....
分类：
其他好文 时间：
2015-01-02 22:16:48
阅读次数：
181
