关于RNN (循环神经网络）相邻采样为什么在每次迭代之前都需要将参数detach 这个问题出自《动手学深度学习pytorch》中RNN 第六章6.4节内容，如下图所示： 当时看到这个注释，我是一脸懵逼，（难道就不能解释清楚一点嘛，让我独自思考了那么长时间，差评！！！）我主要有以下疑惑： 每次小批量反 ...
分类：
其他好文 时间：
2020-07-12 12:05:03
阅读次数：
82
paper:https://arxiv.org/abs/2004.13824 code: https://github.com/SHI-Labs/Pyramid-Attention-Networks 1. 基本思想 作者指出，当前基于深度学习的方法只是在单个尺度上利用了self-similarity ...
分类：
Web程序 时间：
2020-07-12 01:07:25
阅读次数：
109
1. 分析为什么平方损失函数不适用于分类问题. 分类问题中的标签，是没有连续的概念的。每个标签之间的距离也是没有实际意义的，所以预测值 和 标签两个向量之间的平方差这个值不能反应分类这个问题的优化程度。 假设分类问题的类别是1,2,3 那么对于一个真实类别为2的样本X，模型的分类结果是 1 或 3， ...
分类：
其他好文 时间：
2020-07-11 22:38:55
阅读次数：
159
1. numpy 的array操作 # 1. 导入numpy库 import numpy as np # 2.建立一个一维数组 a 初始化为[4,5,6], # (1) 输出a 的类型（type） # (2) 输出a的各维度的大小（shape） # (3) 输出 a的第一个元素（值为4） a = n ...
分类：
其他好文 时间：
2020-07-10 23:56:06
阅读次数：
132
一般来说网络的head都设计很重"重"，且head部分有一些层，计算量大弄且耗时，故导致检测速度很慢，Light-Head R-CNN则是主要通过对head部分的修改减少了较多计算量。 Light-Head R-CNN的网络结构: Light-Head R-CNN网络结构跟R-CNN的网络结构和R- ...
分类：
编程语言 时间：
2020-07-09 23:56:44
阅读次数：
96
目录 定义网络 梯度反向传播 梯度更新 面试时的变相问法 参考资料 BPTT(back-propagation through time)算法是常用的训练RNN的方法，其实本质还是BP算法，只不过RNN处理时间序列数据，所以要基于时间反向传播，故叫随时间反向传播。 BPTT算法在吴恩达和李宏毅等教授 ...
分类：
其他好文 时间：
2020-07-09 22:05:20
阅读次数：
123
模拟内存计算如何解决边缘人工智能推理的功耗挑战 How analog in-memory computing can solve power challenges of edge AI inference 机器学习和深度学习已经成为生活中不可或缺的一部分。人工智能（AI）应用通过自然语言处理（NLP ...
分类：
其他好文 时间：
2020-07-09 13:51:53
阅读次数：
76
人体姿态估计是MSCOCO数据集(http://cocodataset.org/)上面的一项比赛，人体关键点检测，目前主流的做法都是深度学习来做。 可以分为两个大的方向： （1）top-down方向：自顶向下的方法 目前的主流，像cpn，hourglass，cpm，alpha pose等都是top- ...
分类：
其他好文 时间：
2020-07-08 15:01:55
阅读次数：
110
论文标题：Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition 标题翻译：用于视觉识别的深度卷积神经网络中的空间金字塔池 论文作者：Kaiming He, Xiangyu Zhang, Shaoqi ...
分类：
Web程序 时间：
2020-07-07 13:03:51
阅读次数：
214
熟练《机器学习实战》和《花书》中的所有知识点 熟练《剑指Offer》中的所有知识点 熟练Pytorch操作 经常参加和复现Kaggle竞赛 数据降维：复现PCA、LE、LLE、LBP 集成学习：复现Kaggle竞赛前5名 强化学习：复现Kaggle竞赛前5名 深度学习：复现ImageNet竞赛上的一 ...
分类：
其他好文 时间：
2020-07-07 10:25:01
阅读次数：
85
