起源:喵星人的视觉皮层 1958 年,一群奇葩的神经科学家把电极插到喵星人的脑子里,观察到视觉皮层的活动。从而推断生物视觉系统是从物体的小部分入手,经过层层抽象,最后拼起来送入处理中心,减少物体判断的可疑性的。这种方法就与BP网络背道而驰。BP网络认为,大脑每个神经元都要感知物体的全部(全像素全连接...
分类:
其他好文 时间:
2015-03-19 06:16:15
阅读次数:
128
本文是《Neural networks and deep learning》概览 中第三章的一部分,讲machine learning算法中用得很多的交叉熵代价函数。1.从方差代价函数说起代价函数经常用方差代价函数(即采用均方误差MSE),比如对于一个神经元(单输入单输出,sigmoid函数),定义其代价函数为: 其中y是我们期望的输出,a为神经元的实际输出【 a=σ(z), where z=wx+...
分类:
其他好文 时间:
2015-03-13 14:27:18
阅读次数:
293
机器学习Machine Learning - Andrew NG
courses学习笔记
Neural Networks Representation神经网络表示
Non-linear Hypotheses非线性假设
Neurons and the Brain神经元和大脑
Model Representation模型表示
Examples and Intu...
分类:
Web程序 时间:
2015-02-27 22:58:55
阅读次数:
195
(原文地址:维基百科)简单介绍:脉冲神经网络Spiking neuralnetworks(SNNs)是第三代神经网络模型,其模拟神经元更加接近实际,除此之外,把时间信息的影响也考虑当中。思路是这种,动态神经网络中的神经元不是在每一次迭代传播中都被激活(而在典型的多层感知机网络中却是),而是在它的膜电...
分类:
Web程序 时间:
2015-02-13 22:24:50
阅读次数:
210
近日,来自瑞士巴塞尔大学的研究人员通过研究报告说,大脑中的神经元连线起来就好似人类社会的社交网络,每一个神经元细胞都和其它细胞连接在一起,相关研究发表于国际杂志Nature上。研 究者Thomas Mrsic-Flogel表示,神经细胞可以形成一种让人费解的网状连接组织,其被称之为突触,每个细胞中都...
分类:
其他好文 时间:
2015-02-12 00:43:05
阅读次数:
322
今日要闻: Clarifai:可识别视频中物体 最近几年,得益于深度学习技术的发展,谷歌和Facebook等企业的研究人员在图形识别软件领域取得了重大突破。现在,一家名为Clarifai的创业公司则提供了一项新服务,利用深度学习技术来理解视频内容。 深度学习需要借助一个模拟“神经元”的网络来处理数据...
分类:
编程语言 时间:
2015-02-05 00:36:17
阅读次数:
161
神经网络neural network,是生物科学和信息科学交叉的产物。用计算机模拟人脑的工作过程,完成分类识别的任务。
这里我们先感性的介绍神经网络及其训练过程,然后数学推导这个过程。
一个神经元和其它神经元连接:
一个神经元通常和若干个神经元相连...
分类:
其他好文 时间:
2015-02-03 11:11:01
阅读次数:
464
人工神经网络初窥人工神经网络(ArtificialNeuralNetwork,简称ANN),以数学模型模拟神经元活动,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。人工神经网络具有自学习、自组织、自适应以及很强的非线性函数逼近能力,拥有强大的容错性。它可以实现仿真、预测以及模糊控制等功能...
分类:
其他好文 时间:
2015-02-03 00:37:14
阅读次数:
388
Henry Markram: A brain in a supercomputerhttp://www.ted.com/talks/henry_markram_supercomputing_the_brain_s_secrets#t-477109我思故我在:我们看到的不一定是真实景象,而是大脑复杂神...
分类:
其他好文 时间:
2015-02-01 00:32:54
阅读次数:
401
求使隐藏层某一个神经元取到最大激活的输入问题,即对这个函数求最值:…………………………………...(j=1,2..100)是100个方程未知量其中f是sigmoid函数我们知道sigmoid函数是单调递增的,那么对上式函数求最值,就是对里面的函数求最值。,是常数,所以就是求这个方程的最大值。怎么求最...
分类:
其他好文 时间:
2015-01-09 18:43:17
阅读次数:
135