作者|Renu Khandelwal 编译|VK 来源|Medium 什么是梯度下降? 梯度下降法是一种减少成本函数的迭代机器学习优化算法,使我们的模型能够做出准确的预测。 成本函数(C)或损失函数度量模型的实际输出和预测输出之间的差异。成本函数是一个凸函数。 为什么我们需要梯度下降? 在神经网络中 ...
分类:
其他好文 时间:
2020-06-17 19:53:07
阅读次数:
51
目录 textRNN简介 textRNN网络结构 总结 一句话简介:textRNN指的是利用RNN循环神经网络解决文本分类问题,通常使用LSTM和GRU这种变形的RNN,而且使用双向,两层架构居多。 一、textRNN简介 这里的文本可以一个句子,文档(短文本,若干句子)或篇章(长文本),因此每段文... ...
分类:
其他好文 时间:
2020-06-17 01:58:03
阅读次数:
72
目录 传统的自然语言处理模型 NLP的卷积神经网络(textCNN) 卷积层的最大池化问题 testCNN的应用 一句话简介:借鉴视觉的CNN用于自然语言处理中,通过不同高度(词数量)的卷积核提取特征,合并池化压缩至分类,优势是速度提升很多。 一、传统的自然语言处理模型 1)传统的词袋模型或者连续词... ...
分类:
其他好文 时间:
2020-06-17 01:30:01
阅读次数:
70
神经网络AI加速器技术 能够直接加速卷积神经网络,还能够直接运行常见的网络框架,如TensorFlow、Caffe、PyTorch,DarkNet等,支持用户定制化的网络和计算类型。 功能特点: ● 数据类型 ○ 16位浮点 ○ 8位定点 ○ 8位/4位整数 ● 网络压缩 ○ 稀疏矩阵 ○ 剪枝 ○ ...
分类:
其他好文 时间:
2020-06-16 15:05:32
阅读次数:
44
Keras神经网络集成技术 create_keras_neuropod 将Keras模型打包为神经网络集成包。目前,上文已经支持TensorFlow后端。 create_keras_neuropod( neuropod_path, model_name, sess, model, node_name ...
分类:
其他好文 时间:
2020-06-15 18:04:36
阅读次数:
64
深度学习框架集成平台C++ Guide指南 这个指南详细地介绍了神经网络C++的API,并介绍了许多不同的方法来处理模型。 提示 所有框架运行时接口都是相同的,因此本指南适用于所有受支持框架(包括TensorFlow、PyTorch、Keras和TorchScript)中的模型。 导入神经网络 最简 ...
分类:
编程语言 时间:
2020-06-15 15:47:26
阅读次数:
50
摘要:昇腾AI计算解决方案以极致算力,端边云融合、全栈创新,开放生态的硬核实力。用户可以使用标准的Matrix接口实现业务引擎,对外释放昇腾AI加速能力。 从卷积神经网络中的矩阵乘法(GEMM)说起 说起AI业务,就不得不提最经典的AlexNet,AlexNet模型于2012年提出,其被认为是计算机 ...
分类:
其他好文 时间:
2020-06-15 15:45:21
阅读次数:
74
TensorFlow常用函数 1 import math 2 import numpy as np 3 import h5py 4 import matplotlib.pyplot as plt 5 import tensorflow as tf 6 from tensorflow.python.f ...
分类:
其他好文 时间:
2020-06-15 13:51:06
阅读次数:
54
http://neuralnetworksanddeeplearning.com/chap4.html 总结: 1. vanishing gradient problem:神经网络的不同层学习的速度显著不同。原因:weights式服从正态分布,那么w<1,而σ'(zi) 服从N(0,1/4),那么w ...
分类:
编程语言 时间:
2020-06-15 13:45:51
阅读次数:
59
使用mnist数据集实现手写数字识别是入门必做吧。这里使用pyTorch框架进行简单神经网络的搭建。 首先导入需要的包。 1 import torch 2 import torch.nn as nn 3 import torch.utils.data as Data 4 import torchvi ...
分类:
其他好文 时间:
2020-06-14 19:02:50
阅读次数:
76