第一次接触linux，caffe环境配置了好几天。一、安装ubuntu14.04与windows 7双系统二、验证系统，下载驱动，安装前的准备。参考链接中的123三、安装显卡驱动：输入下列命令添加驱动源sudo add-apt-repository ppa:xorg-edgers/ppasudo a...
分类：
系统相关 时间：
2015-02-14 14:55:20
阅读次数：
586
出于对性能和多GPU训练CNN的考虑，这段时间一直在研究cuda-convnet2。
搜了下，网上居然一篇像样的研究cuda-convnet2 代码的文章都找不到，看来假期有的忙了。
Caffe作者贾扬清也在一些场合表达了对Convnet2作者Alex的仰慕之情，可见两个CNN实现的差距。
Caffe比较符合大众的口味，而convnet2符合GPU发烧友的追求。
...
分类：
Web程序 时间：
2015-02-11 12:44:47
阅读次数：
640
自从 Mac 10.9 将其默认编译工具改成 clang/clang++，相应的C++库改成 libc++后，在 Mac 上编译一些开源代码很容易出现 “undefined symbols for architecture x86_64” 的问题，让初学者很是困惑。但是问题的根源均来源与 对C++标准库的使用有关，只需要在编译选项中添加 "-stdlib=libstdc++" 即可。笔者尝试着在 Mac OS X10.10 下，通过源码编译 OpenCV gflags 等 成功 完成 Caffe 的配置安装...
分类：
系统相关 时间：
2015-02-11 09:26:49
阅读次数：
850
最近要用caffe处理一个multi-label的回归问题，就是输出是一个向量，不是一个具体的数值，这个时候之前的leveldb格式就不凑效了，因为caffe源代码里面默认label是一个数值，网上搜了下，都说hdf5格式可以解决这个问题
在caffe里面，有一个hdf5的datalayer作为数据输入，从源代码来看，对于label的维数没做限制，剩下的问题就是如何生成hdf5的数据，目...
分类：
其他好文 时间：
2015-02-03 15:15:40
阅读次数：
4410
在Deep Learning中，往往loss function是非凸的，没有解析解，我们需要通过优化方法来求解。Caffe通过协调的进行整个网络的前向传播推倒以及后向梯度对参数进行更新，试图减小损失。
Caffe已经封装好了三种优化方法，分别是Stochastic Gradient Descent (SGD), AdaptiveGradient (ADAGRAD), and Nesterov’...
分类：
其他好文 时间：
2015-01-21 09:06:32
阅读次数：
1047
具体的安装过程可以参考 官网的Installation，以及网友分享的一些安装教程，教程一，教程二，教程三。
我在这里主要记录下我在安装的过程中碰到的一些问题，以及解决方法（部分网上没有提到）,而不是整个安装的流程。由于自己是linux小白，安装caffe花了好几天时间，期间好几次想放弃，还好我坚持下来了，写这篇博客只是希望网友如果也遇到这样的问题，可以从我这里找到答案。
一、试验...
分类：
系统相关 时间：
2015-01-18 17:16:07
阅读次数：
414
前段时间一直在关注 CNN 的实现，查看了 caffe 的代码以及 convnet2 的代码。目前对单机多卡的内容比较感兴趣，因此特别关注 convnet2 关于 multi-GPU 的支持。
其中 cuda-convnet2 的项目地址发布在：Google Code：cuda-convnet2
关于 multi-GPU 的一篇比较重要的论文就是：One weird trick for parallelizing convolutional neural networks
本文也将针对这篇文章给出分析。...
分类：
Web程序 时间：
2015-01-06 11:54:57
阅读次数：
234
caffe在cifar10 的example上给出了两个模型，一个是quick模式，一个是full模式，训练full模式时会出现loss=nan的错误...
分类：
其他好文 时间：
2014-12-24 11:48:27
阅读次数：
1583
LRN全称为Local Response Normalization，即局部响应归一化层，具体实现在CAFFE_ROOT/src/caffe/layers/lrn_layer.cpp和同一目录下lrn_layer.cu中。
该层需要参数有：
norm_region： 选择对相邻通道间归一化还是通道内空间区域归一化，默认为ACROSS_CHANNELS，即通道间归一化；...
分类：
其他好文 时间：
2014-12-19 23:30:21
阅读次数：
583
前言：最近学习深度学习，有感写一点总结。
我们常常所说的神经网络，一般是指原始的多层感知机，简称MLP，它是在原始感知机堆叠多层而成的，MLP完全由全连接层组成（当然也有激活函数），即Caffe里的IP层。MLP的最大的缺点在于参数众多，比如说我们的网络层为1000--1000--500--20，那么它的总的参数为：1000*1000+1000*500+500*20. 参数过多不好训练，...
分类：
其他好文 时间：
2014-12-04 06:27:32
阅读次数：
295
